one-api temperature 传递 0 ,发现不生效

jei2mxaa  于 2个月前  发布在  其他
关注(0)|答案(6)|浏览(32)

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,尤其是常见问题部分
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
    问题描述

调用api接口,传递 temperature = 0.0 , 渠道端日志打印发现temperature 是 0.8 ,我传递的0.0 未生效

相关截图

渠道大模型接收到的日志:

w80xi6nr

w80xi6nr1#

抱歉,我无法理解您的问题。请提供更多上下文或信息,以便我可以更好地回答您的问题。

ui7jx7zq

ui7jx7zq2#

好的,我会在本地尝试复现一下。

ujv3wf0j

ujv3wf0j3#

我是代理gemini,用于沉浸式翻译。发现不传递0,但是设为0.1就能传递了。

获取Outlook for Android< https://aka.ms/AAb9ysg >...

________________________________ From: lyn-my ***@***.***> Sent: Wednesday, June 26, 2024 11:39:34 AM To: songquanpeng/one-api ***@***.***> Cc: eighh1 ***@***.***>; Comment ***@***.***> Subject: Re: [songquanpeng/one-api] temperature 传递 0 ,发现不生效 (Issue #904) 你好,是什么情况下会失效?调用的什么渠道?我注册是自定义渠道,使用的是自己部署的vllm运行的qwen大模型。接口调用如图。回复此邮件直接查看,在GitHub上查看<#904 (comment)>,或取消订阅< https://github.com/notifications/unsubscribe-auth/AISKX5FF247UTRDTT4MBBELZJIZXNAVCNFSM6AAAAABJZAOYWCVHI2DSMVQWIX3LMV43OSLTON2WKQ3PNVWWK3TUHMZDCOJQGQ4TGNJWG4 >。您收到此邮件是因为您评论了。Message ID: ***@***.***>

siv3szwd

siv3szwd4#

这个bug现在还有吗?

lnlaulya

lnlaulya5#

这个bug现在还有吗?

有,我现在还没法升级版本,好像最新的版本max_tokens不能超过2000。

aiqt4smr

aiqt4smr6#

你好,什么情况下会失效?调用的渠道是什么?

相关问题