我已经使用gpt 4 turbo和Azure搜索服务创建了一个Azure openAI聊天模型(数据源是一个数据湖)。使用AZURE OAI studio playground,我得到了正确的响应。但是当使用来自asp.net核心API的相同模型时,我得到了以下响应,没有任何错误,对于所有提示。
检索到得文档未提供有关--prompt hidden--得任何信息.因此,我无法根据所提供得文档回答您得问题.
我在屏蔽提示符。
下面是代码中的配置。
当我使用这个模型时,没有搜索服务作为CHATGPT聊天机器人,我得到了正确的响应。
另外,在调试过程中,我可以看到搜索服务的结果与响应中的提示。似乎不知何故,AI模型无法读取搜索服务提示
这里有什么问题吗?
代码如下
OpenAIClient client = new OpenAIClient(new Uri(endpoint), new AzureKeyCredential(key));
var chatCompletetion = new ChatCompletionsOptions()
{
//DeploymentName = model,
Messages = {
new ChatMessage(ChatRole.System, "How can I help you today!"),
new ChatMessage(ChatRole.User, _prompt)
// new ChatMessage(ChatRole.System, "How can I help you today!"),
// new ChatMessage(ChatRole.User, _prompt)
},
AzureExtensionsOptions = new AzureChatExtensionsOptions()
{
Extensions =
{
new AzureCognitiveSearchChatExtensionConfiguration()
{
SearchEndpoint = new Uri(searchEndpoint),
SearchKey = new AzureKeyCredential(searchKey),
IndexName = searchIndex
},
}
},
MaxTokens = 500,
Temperature = (float?)0,
FrequencyPenalty = 0,
PresencePenalty = 0
};
Response<ChatCompletions> response = await client.GetChatCompletionsAsync(deploymentName, chatCompletetion);
var botResponse = response.Value.Choices.First().Message.Content;
return new JsonResult(botResponse);
字符串
是否需要进行任何代码修改或修复?
1条答案
按热度按时间mnemlml81#
问题似乎与模型访问的已创建搜索索引有关。请检查Azure搜索凭据和您指向的索引名称是否正确。此外,请检查索引中的数据是否正确上传:
要手动生成包含数据的索引,您可以参考此示例notebook。
使用正确的搜索索引凭据和名称,您可以使用以下代码获得所需的结果: