我找不到Azure openAI的RPM限制
我发现TPM限制是240k，适用于美国东部、美国中南部、西欧、法国中部、英国南部，
我尝试了Microsoft文档，但找不到此限制。https://learn.microsoft.com/en-us/azure/ai-services/openai/quotas-limits
我找不到Azure openAI的RPM限制
我发现TPM限制是240k，适用于美国东部、美国中南部、西欧、法国中部、英国南部，
我尝试了Microsoft文档，但找不到此限制。https://learn.microsoft.com/en-us/azure/ai-services/openai/quotas-limits
1条答案
按热度按时间sdnqo3pr1#
“RPM”（每分钟请求数）配额直接是“TPM”（每分钟事务数）的速率：
的数据
因此，对于GPT 3.5 Turbo型号，如果您的部署具有240k TPM，则RPM将为每分钟1440个请求。
在Azure AI Studio中可见的示例：在我的情况下，我设置了120k TPM，我得到了720 RPM：
的
来源：https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/quota?tabs=rest#introduction-to-quota