[Enhancement]: How gptcache can better adapt to openai 1.x

p4tfgftt  于 2个月前  发布在  其他
关注(0)|答案(1)|浏览(41)

需要添加什么?

在openai 1.x之前,接口的形式是类的静态方法,例如openai.ChatCompletion.create。但在openai 1.x中,使用的是对象,例如:

from openai import OpenAI
client = OpenAI(
    # Defaults to os.environ.get("OPENAI_API_KEY")
)

chat_completion = client.chat.completions.create(
    model="gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Hello world"}]
)

所以现在没有办法简单地替换包名来实现无缝访问gptcache的方法。目前我能想到的方法是通过方法代理openai的相关接口,例如:

def cache_openai_chat_complete(client: OpenAI, **openai_kwargs: Any):
    pass

为什么需要这个?

  • 无响应*

还有其他吗?

  • 无响应*
pn9klfpd

pn9klfpd1#

如果有人有更好的建议,欢迎提出。我已经打开了PR:#614。我不会合并这个PR并更新新版本。实际上,我想听更多人的意见和建议。

相关问题