dify 工作流LLM节点停止序列到' '将被转义为'\ ',

bkhjykvo 于 4个月前发布在其他

关注(0)|答案(6)|浏览(56)

自检

这仅用于提交错误报告，如果您想提问，请访问 Discussions 。
我已在 search for existing issues 中搜索了现有问题，包括已关闭的问题。
我确认我使用英语提交此报告(我已阅读并同意 Language Policy )。
请不要修改此模板 :) 并填写所有必填字段。

Dify版本

0.6.6

云或自托管

自托管(Docker)

重现步骤

在工作流设置中，将停止序列设置为“
”，LLM节点将被转义，LLM API将其接收为“
”。

OpenAI-API兼容的模型提供者：

✔️预期行为

前端配置的停止序列与最终调用的停止配置相同。

❌实际行为

配置被转义。

dify

来源：https://github.com/langgenius/dify/issues/4197

6条答案

按热度按时间

rxztt3cl1#

要解决在Dify 0.6.6工作流中停止序列\n被转义为\\n的问题，请确保在模型配置参数中正确指定停止序列。停止序列应作为字符串列表包含在模型配置的completion_params中，如下所示：

model_config = {
    "name": "TheBloke/codecept-coder-6.7B-instruct-AI21",
    "completion_params": {
        "stop": ["\n"],  // Directly specifying the newline character
        # other parameters...
    }
    # other configuration...
}

确保从配置到调用的stop参数没有被修改或错误地转义。如果问题仍然存在，请检查任何可能发生的转换或重新转义的代码路径，尤其是在操作字符串参数的实用程序函数或方法中。
Dify代码库在OpenAILargeLanguageModel类中的_transform_chat_json_prompts和_transform_completion_json_prompts方法中处理LLM节点的停止序列配置中的字符转义。这些方法将特定的转义序列附加到JSON或XML响应格式的停止序列中，确保正确解释和处理。
如果您仍然遇到问题，提供有关您的设置、配置以及此问题发生在工作流的特定部分的更多详细信息，可以帮助确定更精确的解决方案。