在提问前搜索
- 我在 issues 中进行了搜索,但没有找到类似的问题。
操作系统信息
Linux
Python版本信息
=3.11
DB-GPT版本
主版本
相关场景
- 聊天数据
- 聊天Excel
- 聊天数据库
- 聊天知识库
- 模型管理
- Jmeter 盘
- 插件
安装信息
- Installation From Source
- Docker Installation
- Docker Compose Installation
- Cluster Installation
- AutoDL图像
- 其他
设备信息
gpu数量:2 * A800
模型信息
.env文件内容如下:
LLM_MODEL=glm-4-9b-chat
embedding_model:bge-large-zh
发生的问题
在与数据库交互时发现以下问题:
1. 数据库有很多表,但喂给模型的只是一部分表,想知道为什么提取的表格只是一小部分
- 为什么模型给出的示例prompt是英文的,.env设置的为中文zh?
- glm4的输出有问题,末尾多了个“”<|user|>“”**,此表似乎用于收集和管理用户对产品、服务或其他内容的反馈。通过这个表,可以跟踪用户的反馈历史,了解用户的问题和需求,以及系统或用户提供的相关回答。 <|user|>其他api部署时没有该问题,是不是贵仓库的代码解析上有点问题?
1条答案
按热度按时间6fe3ivhb1#
这个问题已经被标记为
stale
,因为已经超过30天没有任何活动。