one-api 本地部署了chinese-llama2,并仿OpenAI API调用,暴露了/v1/chat/completions和/v1/completions,但one api默认请求了/v1/chat/completions,导致报错,烦请问怎么修改?

hmae6n7t  于 6个月前  发布在  其他
关注(0)|答案(6)|浏览(59)

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,尤其是常见问题部分
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述:请在这里描述问题。

复现步骤:请在这里详细描述如何复现问题。

预期结果:请在这里描述期望的结果。

相关截图:如果有相关截图,请在这里上传。如果没有,请删除此节。

8dtrkrch

8dtrkrch1#

请求 /v1/chat/completions 报什么错呢?
如果可以的话最好能提供测试环境。

atmip9wb

atmip9wb2#

这种提问的方式,即使是大罗神仙也帮不了你。

t2a7ltrp

t2a7ltrp3#

各位大佬,不好意思,我需要补充一下描述。如图一所示,我在本地开启了chinese-llama2的两个端口http://localhost:19327/v1/completions,http://localhost:19327/v1/chat/completions,本地请求可以成功。使用one-api同一转发端口,其中fastgpt的docker-compose的中转地址更改如图二。添加到fastgpt测试报错如图三,docker和logs fastgpt,但是遇到了报错[ERROR] 2024-02-19 03:19:34 sse error: Chat API is error or undefined { stack: undefined }。我不清楚是哪里配置有问题,还是说我本地开的两个端口有问题。请各位大佬指教。

tzxcd3kk

tzxcd3kk4#

我也有类似的问题。

h9vpoimq

h9vpoimq6#

我也遇到了这个问题,楼主解决了吗?

相关问题