one-api 零一万物的yi-vl-plus 视觉模型没有返回

gdx19jrr  于 2个月前  发布在  其他
关注(0)|答案(2)|浏览(31)
例行检查

* [ ] 我已确认目前没有类似 issue
* [ ] 我已确认我已升级到最新版本
* [ ] 我已完整查看过项目 README,尤其是常见问题部分
* [ ] 我理解并愿意跟进此 issue,协助测试和提供反馈
* [ ] 我理解并认可上述内容,并理解项目维护者精力有限,**不遵循规则的 issue 可能会被无视或直接关闭**

问题描述
 按照官方文档的路径调用,没有返回的content

复现步骤
```python
import requests

## 设置 API 的 URL 和所需的 headers

url = " [https://xxxxx/v1/chat/completions](https://xxxxx/v1/chat/completions) "
 headers = {
 "Content-Type": "application/json",
 "Authorization": "Bearer xxxx" # 替换为您的实际 API 密钥
 }

## 准备发送的数据

data = {
 "model": "yi-vl-plus",
 "messages": [
 {
 "role": "user",
 "content": [
 {
 "type": "text",
 "text": "做多还是做空?"
 },
 {
 "type": "image_url",
 "image_url": {
 "url": "https://s2.loli.net/2024/03/15/KhF1W53Cntgsp9I.png"
 }
 }
 ]
 }
 ],
 "max_tokens": 3000
 }

## 发送 POST 请求

response = requests.post(url, json=data, headers=headers)

## 打印响应

print(response.text)

这是返回的内容

{"created":0,"model":"yi-vl-plus","usage":{"completion_tokens":0,"prompt_tokens":1021,"total_tokens":1021},"choices":[{"index":0,"message":{"role":"assistant","content":""},"finish_reason":"error"}]}
content为空

预期结果:无
相关截图:无(如果有的话,请删除此节。)

pprl5pva

pprl5pva1#

同样的问题,后来发现yi-vl-plus的maxTokens为4k,且不能有system提示词。为了解决这个问题,我们需要修改fastgpt的config文件,将maxToken改为2048。

8yoxcaq7

8yoxcaq72#

请问零一万物怎么接入oneapi,好像没有server

相关问题