ollama 增强Windows部署上API交互的聊天记录日志记录功能

5us2dqdw  于 2个月前  发布在  Windows
关注(0)|答案(1)|浏览(40)

你想做什么?

我在Windows 10服务器上部署了Ollama,以便在本地网络中提供API。我发现.ollama/history目录只记录本地命令行交互,而不捕获通过网络启动的聊天。

我们应该如何解决这个问题?

应该实现一个统一的日志系统,该系统可以捕获所有交互的提示和响应,无论它们是本地发起还是通过网络发起。这个改变将消除启用基本聊天历史记录日志调试选项的需要。

不解决这个问题会有什么影响?

当前的限制影响了全面审计和审查交互的能力,引发了隐私问题,尤其是当通过API聊天共享私人信息时。我目前依赖于可用的部分日志并手动启用OLLAMA_DEBUG=1来跟踪没有响应的提示,这并不理想。

还有其他问题吗?

这个问题源于在这个Discord link中的讨论。

brc7rcf0

brc7rcf01#

根据你用来提交这些API调用的方式,你可能能够自己记录它们。我有一个自己的聊天客户端,可以追踪历史记录,虽然我选择不记录我的,但你可以创建一个允许它的东西。如果你使用nginx作为反向代理,你可能能够记录通过它的API调用。

相关问题