ludwig 在Llama3模型上运行推理时出错

xu3bshqb 于 2个月前发布在其他

关注(0)|答案(5)|浏览(34)

当我在Llama3模型上运行使用Ludwig微调的推理时，我总是得到这个错误：

$x_1^a_0b_1^x$

这是我的训练脚本：

$x_1^a_1b_1^x$

以及推理部分：

$x_1^m_0n_1^x$

这是完整的跟踪过程：

$x_1^a_2b_1^x$

$-3.0$

$\star 0.10.3$

5条答案

我遇到了与上述报告相同的错误。

我没有完全解决这个问题，但找到了一个解决方法：
由于模型已经完成了微调，
我将模型加载到HuggingFace中，然后在这个模型(基础模型+微调后的Peft适配器)上运行推理。

听起来很棒！请问您能否解释一下如何使用Ludwig微调模型，或者使用了哪种不同的方法？
提前感谢您的帮助

你好，我也在推理过程中遇到了类似的错误 "ValueError: Invalid missing value strategy fill_with_const"。有什么解决方法吗？

同样的错误。@arnavgarg1,请尝试ping一下，看看是否能解决这个问题。
环境：