是否存在与此功能请求相同的现有问题？
- 我已检查了现有的问题。
您的功能请求是否与问题相关？
This project provides a poor experience in the way the model is provided描述您想要的功能
建议模型提供商添加对OpenAI API模式的兼容性，例如one-api项目。
OpenAI-API兼容模式可以包括市场上99%的模型，包括LLM和嵌入。
此外，Xinference已经支持重新排序模型。
该项目的系统模型可以从模型提供商中选择。
描述您考虑过的实现方式
- 无响应*
文档、采用、用例
- 无响应*
其他信息
- 无响应*
2条答案
按热度按时间fivyi3re1#
同样需要兼容OpenAI API的模式，Ollama太弱了
wwtsj6pe2#
实际上，在RAGFlow系统中，
User Setting-Model Providers-Xinference不仅支持由Xinference部署的模型，还支持任何与OpenAI-API兼容的模型。因此，您可以使用Model Providers-Xinference来使用任何与OpenAI-API兼容的模型。