问题是什么?
提示产生正确结果的提示现在产生了不同的(错误)输出
你期望看到什么?
基于客户提示正确格式化的yaml,具有正确的输入
-> 得到了一个存在缩进问题、缺少字段且结构错误的yaml,尽管提供了json模式
请注意,这也发生在我同事的电脑上以及远程机器上
重现步骤
使用网站提供的Linux下载命令升级ollama
运行gemma
在我删除模型后,它变得更好一会儿,然后又变差了一段时间
是否最近有更改引入了这个问题?
版本升级到0.129
OS
Linux
架构
- 无响应*
平台
WSL2
Ollama版本
0.1.29
GPU
Nvidia
GPU信息
Quadro P1000
CPU
Intel
其他软件
Intel(R) Core(TM) i7-8850H CPU @ 2.60GHz 2.59 GHz
3条答案
按热度按时间f87krz0w1#
你好,RamiKassouf。很抱歉看到这条消息。我过去听说过Gemma对初始提示非常专注,我想知道这里是否也可能是这种情况。移除模型并再次拉取它不应该改变行为,在停止模型并重新运行后,你能否得到更好的响应?
xmq68pz92#
你好,RamiKassouf。抱歉让你看到这个。我过去听说过Gemma对初始提示非常专注,我想知道这里是否可能是这种情况。移除模型并再次拉取它不应该改变行为,你能在停止模型并重新运行后得到更好的响应吗?
是的,我会好一阵子,然后变得更糟
这感觉像是内存泄漏之类的问题吗?
lnxxn5zx3#
更新后,Ollama对我来说肯定占用了更多的内存。甚至在加载任何模型之前