问题是什么?
我按照ollama dockerhub上的说明设置了我的Nvidia-Toolkit,但是容器仍然无法识别我电脑上的GPU。以下是错误日志:
我确信我在WSL2上安装了CUDA和NVCC。以下是我的版本:
我在ollama中的环境变量似乎也正常。
顺便说一下,Ollama的Windows版本运行正常,只有WSL docker无法工作。我不知道为什么Docker无法识别我的GPU。请建议一下。
操作系统
Windows, Docker, WSL2
GPU
Nvidia
CPU
Intel
Ollama版本
最新
1条答案
按热度按时间2nbm6dog1#
错误500是我之前没有见过的
我的怀疑是WSL2中的nvidia工具没有正确或完全设置。请仔细查看来自nvidia的说明:https://docs.nvidia.com/cuda/wsl-user-guide/index.html#nvidia-compute-software-support-on-wsl-2,看看是否有遗漏的地方。