希望看到对Gpt4all和sBert插件的支持。
pbossiut1#
具体来说，GPT4ALL能提供哪些功能？例如，它是否可以作为你的LLM使用？你是否有关于sBERT插件的文档——这方面我不太熟悉。
3pmvbmvn2#
你应该能够选择本地llm选项之一，并在其中输入你的Gpt4All服务器模式端点，因为它们都遵循openAI API标准。作为一个例子，我正在使用llamafile进行推理，并将我的llamafile端点放入LocalAI选项中。
2条答案
按热度按时间pbossiut1#
具体来说，GPT4ALL能提供哪些功能？例如，它是否可以作为你的LLM使用？你是否有关于sBERT插件的文档——这方面我不太熟悉。
3pmvbmvn2#
你应该能够选择本地llm选项之一，并在其中输入你的Gpt4All服务器模式端点，因为它们都遵循openAI API标准。作为一个例子，我正在使用llamafile进行推理，并将我的llamafile端点放入LocalAI选项中。