bert 如何跳过上下文,仅传递问题?

kknvjkwl  于 6个月前  发布在  其他
关注(0)|答案(2)|浏览(48)

你好,
我正在使用以下代码进行问题和答案的问答。在这个过程中,我需要每次都向估计器发送上下文段落以及问题。这是必要的吗?我的文章是固定的,而问题是变化的。每次发送一大段文字都会降低处理速度。
请提出建议。

vbkedwbf

vbkedwbf1#

尝试将上下文保留在内存中,每次获取问题时

vohkndzv

vohkndzv2#

感谢您的回复。是哪个内存?在这里生成令牌。您能指出代码中的某个位置吗?

相关问题