FastGPT 使用cogvlm2模型出现报错object has no attribute '{name}‘

y0u0uwnf  于 2个月前  发布在  其他
关注(0)|答案(4)|浏览(34)

例行检查

  • 我已确认目前没有类似 issue
  • 我已完整查看过项目 README,以及 项目文档
  • 我使用了自己的 key,并确认我的 key 是可正常使用的
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本
v4.8

  • 公有云版本
  • 私有部署版本, 具体版本号:

问题描述, 日志截图

使用oneapi测试这个接口,也是出现同样的问题
感觉问题是出现在,fastgpt给接口传的数据中,TextContent中的name=None
@c121914yu@nongmo677@lijiajun1997

复现步骤
预期结果
相关截图

2ul0zpep

2ul0zpep1#

将vision功能转换为openai api格式。

0sgqnhkj

0sgqnhkj3#

我使用的cogvlm提供的openai api(https://github.com/THUDM/CogVLM2/blob/main/basic_demo/openai_api_demo.py))不行,oneapi也不行,fastgpt肯定也不行。如果少发的话,其他模型肯定也不通。不用怀疑,肯定是这个接口有问题。

bvpmtnay

bvpmtnay4#

我使用的cogvlm提供的openai api(https://github.com/THUDM/CogVLM2/blob/main/basic_demo/openai_api_demo.py))不行,oneapi也不行,fastgpt肯定也不行。如果少发的话,其他模型肯定也不通。不用怀疑,肯定是这个接口有问题。

是的,这个openai_api_demo.py支持的是cogvlm2-llama3-chinese-chat-19B模型,没有支持他们新发布的glm-4v-9b。后面可以在fastgpt中使用这个多模态模型。

相关问题