模型文件的内容是什么？你正在尝试导入哪个模型？

FROM ./MiniCPM-V-2_6/model/ggml-model-Q4_K_M.gguf
 FROM ./MiniCPM-V-2_6/mmproj-model-f16.gguf
TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>{{ end }}
{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>{{ end }}
<|im_start|>assistant<|im_end|>
{{ .Response }}<|im_end|>"""
PARAMETER stop "<|endoftext|>"
 PARAMETER stop "<|im_end|>"
 PARAMETER num_ctx 2048

ggml-model-Q4_K_M.gguf 和 ggml-model-f16.gguf 都是来自 Hugging Face。

MiniCPM-V-2_6尚不支持。当ggerganov/llama.cpp#7599合并时，它将起作用。

谢谢