错误描述
Claude 3.5的聊天/API原本是可以正常工作的,后来我遇到了一个我认为是NC缓存损坏的问题,所以我重置、重启了NC,NC又可以正常工作了。
重启NC后,anthropic API无法正常工作,所以我得到了一个新的API,粘贴了它,出现了重复的错误:
{
"type": "error",
"error": {
"type": "invalid_request_error",
"message": "max_tokens: 10000 > 4096, which is the maximum allowed number of output tokens for claude-3-5-sonnet-20240620"
}
}
根据Anthropic文档:
400 - invalid_request_error:您的请求格式或内容有问题。我们也可能将此错误类型用于其他4XX状态码,但不在此列。
重现步骤
- 将新的API粘贴到"model provider/Anthropic"中。
- 尝试Claude 3.5聊天
- 如上所述出现错误
预期行为
Claude 3.5的聊天功能正常工作。
截图
- 无响应*
部署方法
- Docker
- Vercel
- 服务器
桌面操作系统
macOS m1 14.5
桌面浏览器
- 无响应*
桌面浏览器版本
2.12.4
智能手机设备
- 无响应*
智能手机操作系统
- 无响应*
智能手机浏览器
- 无响应*
智能手机浏览器版本
- 无响应*
2条答案
按热度按时间j5fpnvbx1#
它告诉你问题出在哪里:"max_tokens: 10000 > 4096,这是Claude-3-5-sonnet-20240620允许的最大输出令牌数"。
尝试修改max_tokens参数。
eimct9ow2#
我将Anthropic计划更改为Build计划(之前有5美元免费信用),将NextChat中的Max Tokens更改为4096,但不起作用。
删除了Anthropic API,重新创建,将其粘贴到NC中,再次尝试,起作用了。
将NC中的Max Tokens更改回10000,起作用了。
Anthropic免费计划和Build计划(Tier 1)之间的Max tokens?(帐户中的速率限制未指定)
编辑:设置为4095,起作用了,较长的聊天(与其他模型开始的聊天)无论Max Token设置如何都会给出相同的消息。