ChatGPT-Next-Web [Feature] Top_P

dpiehjr4  于 3个月前  发布在  其他
关注(0)|答案(4)|浏览(72)

我们为什么不使用2位小数,而是使用1位小数,例如Top_p 0.95?
对不起,我不太擅长TypeScript。

r6hnlfcb

r6hnlfcb1#

因为接下来会有个问题:为什么使用2而不是1?

4zcjmb1e

4zcjmb1e2#

0.95的值在编码任务上在效率和效果之间取得了良好的平衡,使其适用于较小的模型,如qwen 1.5 7b。

gkl3eglg

gkl3eglg3#

这是由于OpenAI的默认设置,我不确定它是否支持调整为2 decimal这样的设置,例如Top_p 0.95
参考:https://platform.openai.com/docs/api-reference/chat/create#chat-create-top_p

ruyhziif

ruyhziif4#

对不起,延迟了。在我的本地测试中,0.9和0.95(这两个都是浮点值)都运行良好。看起来聊天框已经在使用它们了,

相关问题