text-generation-inference 禁用"grammar"参数的日志记录

dgtucam1  于 22天前  发布在  其他
关注(0)|答案(1)|浏览(13)

功能请求

移除每个请求上"grammar"参数的完整日志记录。
可能的替代方案:
a) 仅记录 "None" vs "Some"
b) 添加一个配置参数以启用/禁用完整日志记录

动机

任何对数据隐私保护有高要求的应用都必须确保不会保留或记录用户输入。
最有可能包含敏感信息的参数是:

  • 提示/消息
  • 工具
  • 语法

尽管提示和工具目前没有被记录,但语法参数确实被记录了,这可能会泄露用户的敏感输入。

你的贡献

yhxst69z

yhxst69z1#

你好,@sfbemerk 👋
感谢指出这个问题,我认为这是我们可以添加的内容。你愿意尝试实现这个功能吗?如果不是100%,我暂时没有带宽立即处理,但应该可以在下周完成 👍

相关问题