你想添加什么内容?
我想它应该支持流式输出,使用yield返回。因此,除了处理llm('hello')这样的调用之外,最好还能使用llm.custom_func()进行调用。
为什么需要这个功能?
支持流式输出。
kdfy810k1#
@jiangbossB 这是一条很好的建议!
lnlaulya2#
如果你想支持流式输出,这应该在langchain中得到支持,例如返回一个生成器。
2条答案
按热度按时间kdfy810k1#
@jiangbossB 这是一条很好的建议!
lnlaulya2#
如果你想支持流式输出,这应该在langchain中得到支持,例如返回一个生成器。