one-api 转发重新排序请求

ru9i0ody  于 6个月前  发布在  其他
关注(0)|答案(5)|浏览(58)

例行检查

  • 我已确认目前没有类似 issue
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此 issue,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述
Rerank 已经成为了 RAG 的重要组件。
Cohere 提供了搜索精排的接口 https://docs.cohere.com/reference/rerank-1,
Hugging Face 的 Text Embeddings Interface https://huggingface.github.io/text-embeddings-inference/#/Text%20Embeddings%20Inference/rerank 是一个本地高效部署 Rerank 模型的框架。
二者的 rerank API 不相同。
希望本项目能增加对 rerank API 的支持,统一这两种模式的 API。

相关问题