ollama 错误的NuExtract模型模板

mnowg1ta 于 4个月前发布在其他

关注(0)|答案(2)|浏览(50)

这个模型的模板应该更像这样：

{{- range .Messages }}
{{- if eq .Role "user" }}<|input|>
{{ .Content }}<|output|>
{{- else if eq .Role "assistant" }}
{{ .Content }} <|end-output|>
{{- end }}
{{- end }}

我按照推荐在 <|end-output|> 标记前加了一个空格。
参考：https://huggingface.co/numind/NuExtract#usage
停止参数文件应包含以下条目：

<|endoftext|>
<|assistant|>
<|end|>
<|end-output|>

参考：https://huggingface.co/numind/NuExtract/blob/main/generation_config.json
在我本地的 Modelfile 中进行这些更改后，模型按预期运行。

Ollama 版本

0.2.8

ollama

来源：https://github.com/ollama/ollama/issues/5875

2条答案

按热度按时间

thtygnil1#

此外，如果README能更新并包含模型使用示例的话就更好了：

### Template:
{
  "Person's Name": "",
  "Person's Age": ""
}

### Example:
{
  "Person's Name": "John Smith",
  "Person's Age": "20"
}

### Text:
My name is Jane Doe and I am 30.

提供示例是可选的，如果需要，可以提供多个示例，每个示例都应该在标题“### Example:”下。

赞(0）回复(0）举报 4个月前

4nkexdtk2#

感谢您的提醒！我们将立即更新模型。

赞(0）回复(0）举报 4个月前