问题是什么？

我试图限制GPU内存使用，所以我设置了 OLLAMA_MAX_VRAM 环境变量。
我在日志中看到它被正确解析，但限制本身被忽略了。
当我将限制设置为 5000000000 (5GB)时，根据 nvidia-smi ,llama3:8b 模型将使用 6172MiB 。
即使我将其设置为一个极低的值，如 5 ,它仍然使用超过6GB的内存。

操作系统

Linux,Docker

GPU

Nvidia

CPU

AMD

Ollama版本

0.2.5