ollama 退出后显存仍在占用 - Video memory is still occupied after exiting

jgzswidk  于 2个月前  发布在  其他
关注(0)|答案(1)|浏览(30)

问题是什么?

退出后显存仍在占用

操作系统

Linux

GPU

Nvidia

CPU

Intel

Ollama版本

0.2.2

7eumitmz

7eumitmz1#

请分享更多关于您的场景的信息。您是如何关闭Ollama的?如果您使用SIGTERM信号向ollama serve发送信号,那么它将能够关闭子进程并释放GPU内存。如果您使用kill -9(SIGKILL)信号,那么Ollama_llama_server进程将被孤立,并且无限期地持有GPU资源。

相关问题