使用SQUAD提高微调Bert的答案评分

ctzwtxfj  于 3个月前  发布在  其他
关注(0)|答案(1)|浏览(50)

你好,
我有一个问题 - 是否有任何选项可以更改/修复Squad微调模型的评分。
例如,我们向预测器提供5个示例。同一个问题和5个不同的段落。第一个段落包含这个问题的正确答案,其他4个不是。
Q1 - P1, Q1 - P2, Q1 - P3, Q1 - P4, Q1 - P5
但是当Bert计算logits时,与正确答案不相关的段落的start_logit+end_logit比正确的段落要高。
也许我错过了一些设置或者可以尝试更改一些训练代码以获得更精确的结果?
谢谢!

vx6bjr1n

vx6bjr1n1#

你好,扎伦科夫,希望你一切都好。
我也在思考你提出的问题。问题在于Bert对token长度的限制。如果将段落拆分成多个块,你会从不同块得到不同的分数。不确定是否有必要比较这些分数。有机会分享一些见解吗?
谢谢。卢克

相关问题