你好，MaartenGr!
据我所知，该包不支持异步的OpenAI客户端生成微调主题表示。如果能并发地生成这些表示，将大大加快这一部分的流程。
从实现Angular 来看，我们可以检查客户端是同步的(openai.OpenAI)还是异步的(openai.AsyncOpenAI),然后为两者编写略有不同的子程序。主要的事情是为异步子程序运行asyncio.gather以允许并发请求。
openai.OpenAI
openai.AsyncOpenAI
asyncio.gather
你对此有什么想法吗？
vfwfrxfs1#
感谢您分享这个想法！我认为这是可行的，但首先需要在运行此操作之前提取所有相关文档/关键词。这将需要一些额外的测试/微调，以确保其按预期工作。最后，让我对此类事物犹豫不决的一件事是使用OpenAI(如果您正在使用付费API),它已经相当快了。它只需要为每个主题进行一次调用。
1条答案
按热度按时间vfwfrxfs1#
感谢您分享这个想法！我认为这是可行的，但首先需要在运行此操作之前提取所有相关文档/关键词。这将需要一些额外的测试/微调，以确保其按预期工作。最后，让我对此类事物犹豫不决的一件事是使用OpenAI(如果您正在使用付费API),它已经相当快了。它只需要为每个主题进行一次调用。