one-api 3.5 模型计价存在问题,受影响的模型包括 gpt-3.5-turbo 和 gpt-3.5-turbo-16k,

nhn9ugyo  于 2个月前  发布在  其他
关注(0)|答案(2)|浏览(37)

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,尤其是常见问题部分
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述
如题,如图。最新仓库代码,所有配置均默认,官方模型倍率未调整。测试下来,gpt-3.5-turbo和gpt-3.5-turbo-16k价格虚高,gpt-3.5-turbo-1106价格是准确的。
已知官方价格:
gpt-3.5-turbo $0.0015 / 1K tokens $0.002 / 1K tokens
gpt-3.5-turbo-16k $0.003 / 1K tokens $0.004 / 1K tokens
其中,两个模型调用成本计算分别如下:
gpt-3.5-turbo = 1.982 x $0.0015 + 1.382 x $0.002 = 0.005737 (后台显示0.00712,虚高)
gpt-3.5-turbo-16k = 1.982 x $0.003 + 1.359 x $0.004 = 0.011382(后台显示0.0141,虚高)

复现步骤
生产环境中发现问题,重新拉取代码复现成功。

预期结果
如上。

相关截图
如上。

v1l68za4

v1l68za41#

你的倍率设置错误导致的,官方3.5已经降价,提示是0.001, 补全是0.002,则提示倍率为0.5,而不是0.75。在oneapi中如果按正确的倍率来计算,它的计算方式应该是:
(1982 + 1382 * 2) * 0.5 / 500000 = 0.004746(正确的值)。由于你倍率设置成0.75,那么它的结果是:
(1982 + 1382 * 2) * 0.75 / 500000 = 0.007119 ≈ 0.007120(日志中显示的值)。为什么说你的 1.982 x $0.0015 + 1.382 x $0.002 = 0.005737 结果也是错的呢?因为你计算用的是旧的价格,新的提示价格是0.001,如果按新的价格计算,如下:
1.982 x $0.0001 + 1.382 x $0.002 = 0.004746,这个结果同上面用oneapi正确的倍率计算方式结果是一致的。总结:非oneapi的bug,一个是你使用了旧的价格来计算,一个是你使用oneapi的倍率还是设置的旧的倍率导致。

rur96b6h

rur96b6h2#

https://openai.com/pricing
https://platform.openai.com/docs/deprecations

  1. 倍率是自己设置的,在运营设置里设置当前最新的倍率。已知1倍率=0.002。
  2. 官方降价的1106不是旧模型,请看上面两个价格表,当前的补全倍率没有问题。

相关问题