需要添加什么?
在openai 1.x之前,接口的形式是类的静态方法,例如openai.ChatCompletion.create
。但在openai 1.x中,使用的是对象,例如:
from openai import OpenAI
client = OpenAI(
# Defaults to os.environ.get("OPENAI_API_KEY")
)
chat_completion = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[{"role": "user", "content": "Hello world"}]
)
所以现在没有办法简单地替换包名来实现无缝访问gptcache的方法。目前我能想到的方法是通过方法代理openai的相关接口,例如:
def cache_openai_chat_complete(client: OpenAI, **openai_kwargs: Any):
pass
为什么需要这个?
- 无响应*
还有其他吗?
- 无响应*
1条答案
按热度按时间pn9klfpd1#
如果有人有更好的建议,欢迎提出。我已经打开了PR:#614。我不会合并这个PR并更新新版本。实际上,我想听更多人的意见和建议。