GPTCache [Feature]: please support google LLM

swvgeqrz 于 2个月前发布在 Go

关注(0)|答案(2)|浏览(45)

您的功能请求是否与问题相关？请描述。

你好团队，
我的团队正在开发Gen AI项目，所有项目都基于谷歌云平台。因此，是否可以将GPTCache与谷歌LLM(gemini或bisontext)集成？

描述您希望的解决方案。

1. 支持谷歌LLM

1. 支持谷歌嵌入函数
1. 支持pinecone作为向量数据库

描述替代解决方案。

无响应*

是否有其他补充信息？(附加上下文)

无响应*

来源：https://github.com/zilliztech/GPTCache/issues/601

2条答案

按热度按时间

+1

赞(0）回复(0）举报 2个月前

大型模型的数量正在爆炸式增长，我认为继续添加模型可能没有太大意义。或许你可以尝试使用gptcache中的get和set API,示例代码：https://github.com/zilliztech/GPTCache/blob/main/examples/adapter/api.py

赞(0）回复(0）举报 2个月前

相关问题

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 23天前
xxl-job 不能和nacos兼容？
回答(3) 发布于 23天前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 23天前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 23天前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 23天前