DB-GPT [Bug] [聊天Excel] qwen2-72b-instruct-gptq-int4返回提示错误,

yfwxisqw  于 5个月前  发布在  其他
关注(0)|答案(1)|浏览(92)

在提问前搜索

  • 我在 issues 中进行了搜索,但没有找到类似的问题。

操作系统信息

Linux

Python版本信息

3.10

DB-GPT版本

主版

相关场景

  • Chat Data
  • Chat Excel
  • Chat DB
  • Chat Knowledge
  • Model Management
  • Dashboard
  • Plugins

安装信息

设备信息

GPU 48g

模型信息

LLM:qwen2-72b-instruct-gptq-int4 Embedding:bage-large-zh

发生的事情


报以上错误

你期望发生的事情

我希望可以正常地分析需求,输出对应的格式

如何重现

1、选择chat excel
2、等待分析结束
3、正常提出问题

scyqe7ek

scyqe7ek1#

这个问题已经被标记为 stale,因为已经超过30天没有任何活动。

相关问题