one-api 使用moderations进行前置内容审核,

xn1cxnb4  于 2个月前  发布在  其他
关注(0)|答案(1)|浏览(39)

例行检查

  • 我已确认目前没有类似 issue

  • 我已确认我已升级到最新版本

  • 我已完整查看过项目 README,已确定现有版本无法满足需求

  • 我理解并愿意跟进此 issue,协助测试和提供反馈

  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述:

我已经看到了支持 v1/moderations 模型的功能,但是这个是提供给用户进行调用的。但是我希望内置开启或者关闭 moderations 的功能,以便对用户请求的内容进行审核,以便拒绝用户请求。

应用场景:

主要针对使用 Anthropic 的模型的客户,对他们的请求内容前置审核,以便符合 Anthropic 的 AUP 政策(https://console.anthropic.com/legal/aup)。

相关问题