one-api 除了每个请求的token以外,能否把请求的耗时也记录到日志里面来

xfyts7mz  于 2个月前  发布在  其他
关注(0)|答案(5)|浏览(30)

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述

在日志和统计上,希望能看到分渠道请求的耗时情况。

应用场景

oyt4ldly

oyt4ldly1#

确实,心水new-api的这个功能很久了,一眼分清不同渠道的速度

taor4pac

taor4pac2#

日志是否能记录请求模型的详细request和response,以便在出现问题时更容易排查传给大模型的内容。

slwdgvem

slwdgvem3#

可以的,这个很简单,本周末处理。

lnlaulya

lnlaulya4#

抱歉各位,本周末处理其他问题占用了较多时间,相关 PR 未处理完毕,只能拖到下周了

a2mppw5e

a2mppw5e5#

日志能否记录请求模型详细的request和response,感觉每次出问题不好排查到底传给大模型的是啥。
加1,每次提示该渠道无可用模型都得找好久

相关问题