inference 功能需求

nimxete2  于 8个月前  发布在  其他
关注(0)|答案(1)|浏览(69)

请注意,问题跟踪器不是提供一般支持的地方。

能否在页面选择在哪一个worker启动本地模型?

在启动模型时,可以选择启动参数,如vllm相关参数。

在线模型页面,能否新增模型调用次数等功能?

相关问题