您的功能请求是否与问题相关?请描述。
我们现在在 VS Code Extension
中具有很好的跟踪能力。但它没有记录在输出服务中(据我理解,但我可能错了)。
描述您希望的解决方案
如果我们能够从一些推理端点获取跟踪信息并使用跟踪工具(如 LangSmith)进行检查,那将非常酷。或者我们可以通过某些 REST 函数从端点下载日志并在 VSCode Extension
中检查它们-这也可能非常有用(可能无需手动下载任何内容即可实现后端集成)。
您的功能请求是否与问题相关?请描述。
我们现在在 VS Code Extension
中具有很好的跟踪能力。但它没有记录在输出服务中(据我理解,但我可能错了)。
描述您希望的解决方案
如果我们能够从一些推理端点获取跟踪信息并使用跟踪工具(如 LangSmith)进行检查,那将非常酷。或者我们可以通过某些 REST 函数从端点下载日志并在 VSCode Extension
中检查它们-这也可能非常有用(可能无需手动下载任何内容即可实现后端集成)。
2条答案
按热度按时间uklbhaso1#
你好@ArtyomZemlyak,我们已经在vscode扩展中有了跟踪图,单次运行,批量运行时可视化。不确定你提到的“跟踪能力”是否好用。😄
从你的解决方案描述来看,似乎你已经部署了一个流程作为端点,现在你正在寻找一个功能,允许你从推理示例中检索或下载跟踪和日志,这将允许你在首选系统中可视化和分析它们。然而,在pf中直接可视化推理示例的跟踪确实是一个理想的解决方案。
这确实可以被视为一种“部署后监控”。我理解得对吗?
zc0qhyus2#
你好!看起来你的消息中包含了一些特殊字符,这使得翻译变得困难。如果你能提供一个更清晰的问题或者消息,我会很乐意帮助你。