DB-GPT [Bug] 为什么提示词中的数据库信息只占一小部分,而glm-4-9b-chat的输出有多余的符号< |user|>?

2q5ifsrm  于 2个月前  发布在  其他
关注(0)|答案(1)|浏览(38)

在提问前搜索

  • 我在 issues 中进行了搜索,但没有找到类似的问题。

操作系统信息

Linux

Python版本信息

=3.11

DB-GPT版本

主版本

相关场景

  • 聊天数据
  • 聊天Excel
  • 聊天数据库
  • 聊天知识库
  • 模型管理
  • Jmeter 盘
  • 插件

安装信息

设备信息

gpu数量:2 * A800

模型信息

.env文件内容如下:

LLM_MODEL=glm-4-9b-chat
embedding_model:bge-large-zh

发生的问题

在与数据库交互时发现以下问题:

1. 数据库有很多表,但喂给模型的只是一部分表,想知道为什么提取的表格只是一小部分

  1. 为什么模型给出的示例prompt是英文的,.env设置的为中文zh?
  2. glm4的输出有问题,末尾多了个“”<|user|>“”**,此表似乎用于收集和管理用户对产品、服务或其他内容的反馈。通过这个表,可以跟踪用户的反馈历史,了解用户的问题和需求,以及系统或用户提供的相关回答。 <|user|>其他api部署时没有该问题,是不是贵仓库的代码解析上有点问题?
6fe3ivhb

6fe3ivhb1#

这个问题已经被标记为 stale,因为已经超过30天没有任何活动。

相关问题