例行检查
功能描述
应用场景
lkaoscv71#
llama3 支持的
tktrz96b2#
收到,已经完成部署,openai和grok测试都通过。但是有一个deepinfra.com的账号,购买了key。在oneapi的接口怎么填都通不过测试。我填的是https://api.deepinfra.com/v1。官方指导文件:https://deepinfra.com/meta-llama/Meta-Llama-3-70B-Instruct/api?example=js-text-gen。,谢谢先。
lbsnaicq3#
是不是模型名称问题
vm0i2vca4#
看了下例程,是调用格式跟OpenAI不匹配,得让oneapi适配这个渠道了
am46iovg5#
看了下例程,是调用格式跟OpenAI不匹配,得让oneapi适配这个渠道了哦,谢谢。您的意思是 需要oneapi 官方适配一下deepinfra.com ,oneapi的用户才能正常用?
x7rlezfr6#
up
oymdgrw77#
确实,我也遇到了这个问题。在deepinfra.com上可以找到最新的nvidia/Nemotron-4-340B-Instruct模型。但是在oneapi上无法使用。
7条答案
按热度按时间lkaoscv71#
llama3 支持的
tktrz96b2#
收到,已经完成部署,openai和grok测试都通过。但是有一个deepinfra.com的账号,购买了key。在oneapi的接口怎么填都通不过测试。我填的是https://api.deepinfra.com/v1。官方指导文件:https://deepinfra.com/meta-llama/Meta-Llama-3-70B-Instruct/api?example=js-text-gen。,谢谢先。
lbsnaicq3#
是不是模型名称问题
vm0i2vca4#
看了下例程,是调用格式跟OpenAI不匹配,得让oneapi适配这个渠道了
am46iovg5#
看了下例程,是调用格式跟OpenAI不匹配,得让oneapi适配这个渠道了
哦,谢谢。您的意思是 需要oneapi 官方适配一下deepinfra.com ,oneapi的用户才能正常用?
x7rlezfr6#
up
oymdgrw77#
确实,我也遇到了这个问题。在deepinfra.com上可以找到最新的nvidia/Nemotron-4-340B-Instruct模型。但是在oneapi上无法使用。