ollama GPU在Docker WSL2中无法在Win11上检测到

vsdwdz23  于 2个月前  发布在  Docker
关注(0)|答案(1)|浏览(36)

问题是什么?
我按照ollama dockerhub上的说明设置了我的Nvidia-Toolkit,但是容器仍然无法识别我电脑上的GPU。以下是错误日志:

我确信我在WSL2上安装了CUDA和NVCC。以下是我的版本:

我在ollama中的环境变量似乎也正常。

顺便说一下,Ollama的Windows版本运行正常,只有WSL docker无法工作。我不知道为什么Docker无法识别我的GPU。请建议一下。

操作系统

Windows, Docker, WSL2

GPU

Nvidia

CPU

Intel

Ollama版本

最新

2nbm6dog

2nbm6dog1#

错误500是我之前没有见过的

/**
     * This indicates that a named symbol was not found. Examples of symbols
     * are global/constant variable names, driver function names, texture names,
     * and surface names.
     */
    CUDA_ERROR_NOT_FOUND                      = 500,

我的怀疑是WSL2中的nvidia工具没有正确或完全设置。请仔细查看来自nvidia的说明:https://docs.nvidia.com/cuda/wsl-user-guide/index.html#nvidia-compute-software-support-on-wsl-2,看看是否有遗漏的地方。

相关问题