你好,我正在使用以下代码进行问题和答案的问答。在这个过程中,我需要每次都向估计器发送上下文段落以及问题。这是必要的吗?我的文章是固定的,而问题是变化的。每次发送一大段文字都会降低处理速度。请提出建议。
vbkedwbf1#
尝试将上下文保留在内存中,每次获取问题时
vohkndzv2#
感谢您的回复。是哪个内存?在这里生成令牌。您能指出代码中的某个位置吗?
2条答案
按热度按时间vbkedwbf1#
尝试将上下文保留在内存中,每次获取问题时
vohkndzv2#
感谢您的回复。是哪个内存?在这里生成令牌。您能指出代码中的某个位置吗?