FastGPT 建议将工具调用组件与LLM对话分开,

pes8fvy9  于 6个月前  发布在  其他
关注(0)|答案(3)|浏览(158)

例行检查

  • 我已确认目前没有类似功能
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此功能,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的功能可能会被无视或直接关闭

功能描述

  1. 工具调用组件,是否可以将工具调用和LLM对话分开,工具调用只做工具调用的事情,返回的内容交给各工具自己返回。提高其灵活性。

应用场景

  1. 工具调用下增加N个插件,返回给用户希望是插件直接返回的内容,这时候需要增加工具调用终止和指定回复内容的组件,看起来太乱。不如工具调用和LLM对话分开,是使用插件直接返回的内容,还是插件返回的内容LLM对话进行处理,交给用户自己决定,个人认为会更好。
dsekswqp

dsekswqp1#

工具调用默认将调用接口和LLM对话强制合并在一起的逻辑,确实不利于新用户理解这个工具的使用。

im9ewurl

im9ewurl2#

  1. 新用户默认是否都知道工具调用会触发调用?这是工具调用的原生做法,不输出才是特殊做法。
ttygqcqt

ttygqcqt3#

是否可以参考下core和dify 的工作流

相关问题