GPTCache 增强功能:将向量存储用作缓存的能力

mwkjh3gx  于 4个月前  发布在  其他
关注(0)|答案(3)|浏览(104)

你想添加什么功能?

提供使用当前正在使用的向量存储进行缓存的能力。例如,如果我在使用Weaviate,我希望它既能用于缓存,也能用于向量存储。
谢谢

为什么需要这个功能?

  • 无响应*

还有其他需求吗?

  • 无响应*
jk9hmnmh

jk9hmnmh1#

我认为这不是一个很好的主意,因为在缓存过程中,标量数据通常会非常大,即问题及其答案的数据大小很大,不适合将它们存储在矢量数据库中,因为矢量数据库的优势在于矢量存储和搜索。如果许多标量被放置在矢量数据库中,一方面,这不利于检索,另一方面,它会极大地增加矢量数据库的压力并造成资源浪费。

dddzy1tm

dddzy1tm2#

我理解,尽管使用多个数据存储进行缓存和矢量化的操作复杂性很高。对于较小的部署,我想知道是否可以将矢量存储用作标量数据的缓存是可行的。

euoag5mw

euoag5mw3#

对于这种情况,你可以尝试使用sqlite。

相关问题