ollama InternLM2.5 -幻觉-重复等

gzjq41n4  于 5个月前  发布在  其他
关注(0)|答案(4)|浏览(54)

问题是什么?

InternLM2.5似乎出了问题,我无法从中得到任何有意义的结果。(尝试了32k上下文)

操作系统

Linux

GPU

Nvidia

CPU

AMD

Ollama版本

v0.1.48

watbbzwu

watbbzwu1#

这个query与计算机无关,所以无法生成答案。

ttvkxqim

ttvkxqim2#

似乎GGUF或yup的实现有问题。

ar7v8xwq

ar7v8xwq3#

你好,Qualzz,你使用的是哪个提示?我在这个上下文窗口中看到了不错的结果:

ollama run internlm2
>>> /set parameter num_ctx 32768
Set parameter 'num_ctx' to '32768'
>>> Write me a long story
**Title: The Echoes of Eternity**

In the heart of a realm where time flowed like water through veins, there existed an enigmatic place known as Eldoria. A land bathed in perpetual
twilight and whispered secrets by the silvery whispers of the moonbeams. Here, amongst towering crystal spires that pierced the heavens, dwell the
guardians—ancient beings who preserve the balance between life's myriad paths.

请告诉我-可以调查一下

jv4diomz

jv4diomz4#

我现在没有一个例子,但它与Eligop发布的截图类似。尤其是对于长提示和要求总结的内容。

相关问题