我的理解是，我们需要构建一个FastAPI Package 器，在初始化阶段调用client = mii.client("mistralai/Mistral-7B-v0.1"),并实现一个处理程序来调用client.generate。
client = mii.client("mistralai/Mistral-7B-v0.1")
client.generate
k4emjkb11#
你可以使用RESTful API。此外，我还添加了一个PR #317(仍在进行中),以实现与OpenAI兼容的RESTful API。
1条答案
按热度按时间k4emjkb11#
你可以使用RESTful API。此外，我还添加了一个PR #317(仍在进行中),以实现与OpenAI兼容的RESTful API。