ollama Mistral-Nemo支持/bug

fwzugrvs  于 2个月前  发布在  其他
关注(0)|答案(1)|浏览(33)

问题是什么?
(Pythogora)开发者@ai:~/PROJECTS$ ~/ollama/ollama run mistral-Nemo-Instruct-2407-f16:latest
错误:llama运行器进程已终止:信号:中止(核心转储)加载模型时出错:检查Tensor维度:Tensor'blk.0.attn_q.weight'的形状不正确;期望的形状是5120, 5120,实际得到的形状是5120, 4096, 1, 1
llama_load_model_from_file:加载模型时出现异常

OS

Linux

GPU

Nvidia

CPU

Intel

Ollama版本

从源代码获取的最新版本。

相关问题