base url 那里 我猜测是不支持填写多个的吧?那怎么解决多示例负载问题呢?比如我有两个机器都部署了ChatGLM6B模型, 如何同时接入one-api? 解决负载均衡问题
jfgube3f1#
添加成两个渠道？
67up9zun2#
添加成两个渠道？怎么自动负载啊?
uurity8g3#
添加成两个渠道？怎么自动负载啊?随机负载。
3条答案
按热度按时间jfgube3f1#
添加成两个渠道？
67up9zun2#
添加成两个渠道？
怎么自动负载啊?
uurity8g3#
添加成两个渠道？
怎么自动负载啊?
随机负载。