例行检查
功能描述
在日志和统计上,希望能看到分渠道请求的耗时情况。
应用场景
oyt4ldly1#
确实,心水new-api的这个功能很久了,一眼分清不同渠道的速度
taor4pac2#
日志是否能记录请求模型的详细request和response,以便在出现问题时更容易排查传给大模型的内容。
slwdgvem3#
可以的,这个很简单,本周末处理。
lnlaulya4#
抱歉各位,本周末处理其他问题占用了较多时间,相关 PR 未处理完毕,只能拖到下周了
a2mppw5e5#
日志能否记录请求模型详细的request和response,感觉每次出问题不好排查到底传给大模型的是啥。加1,每次提示该渠道无可用模型都得找好久
5条答案
按热度按时间oyt4ldly1#
确实,心水new-api的这个功能很久了,一眼分清不同渠道的速度
taor4pac2#
日志是否能记录请求模型的详细request和response,以便在出现问题时更容易排查传给大模型的内容。
slwdgvem3#
可以的,这个很简单,本周末处理。
lnlaulya4#
抱歉各位,本周末处理其他问题占用了较多时间,相关 PR 未处理完毕,只能拖到下周了
a2mppw5e5#
日志能否记录请求模型详细的request和response,感觉每次出问题不好排查到底传给大模型的是啥。
加1,每次提示该渠道无可用模型都得找好久