GPTCache [特性]:寻找更合适的相似度评估模型

fykwrbwg 于 2个月前发布在其他

关注(0)|答案(1)|浏览(56)

您的功能请求是否与问题相关？请描述。

目前，GPTCache在最佳条件下实现了约80%的准确性。然而，在日常使用中，它经常返回不满意的缓存结果，表明它在实际生产场景中表现不佳。
GPTCache利用用户查询从矢量数据库中检索类似的数据，并计算用户查询和检索到的数据中的问题之间的相似性。然而，这种方法的有效性并不理想。我们尝试通过采用跨编码器/Quora-DistilRoberta-Base模型来匹配检索到的数据中的答案与用户查询，但结果仍然不尽如人意。
是否有其他模型更适合这个特定场景？