描述问题
添加自定义端点(Azure)破坏了谷歌Gemini模型端点。
我在Vercel部署中添加了一个GOOGLE_API_KEY。部署后，gemini-pro聊天正常工作。
如果我然后通过GUI通过设置、设置Azure端点、API密钥、API版本并为模型端点提供自定义名称来添加自定义端点，这个新的模型端点可以正常工作。但是现在gemini-pro无法工作，并且在一段时间后返回“空响应”。我尝试重新启动Vercel应用程序、清除cookie等，问题仍然重复出现。
重现问题
重现行为所需的步骤：
- 在vercel环境中设置GOOGLE_API_KEY,部署应用程序
- 检查gemini-pro在聊天UI中的工作情况
- 转到设置，设置自定义端点(在此情况下为Azure)
- 再次尝试在聊天UI中与gemini-pro聊天，现在它失败了。
预期行为
添加自定义Azure端点不应影响gemini-pro模型
截图
部署
- Docker
- [ X ] Vercel
- 服务器
桌面(请完成以下信息): - OS: [例如iOS]
- 浏览器[Chrome]
- 版本[自2024年3月13日以来的最新版本]
2条答案
按热度按时间k5hmc34c1#
Bot detected the issue body's language is not English, translate it automatically.
Title: [Bug] Adding Custom Endpoint, Azure, Breaks default Google Gemini
7ajki6be2#
自定义端点设置的GUI截图：