PaddleHub ernie模型fin tuning后预测速度慢

yvgpqqbh  于 5个月前  发布在  其他
关注(0)|答案(1)|浏览(102)

用ernie模型fin_tuning之后,预测效率好差,一条需要0.7s左右,因为本机CPU的原因吗?这是正常吗?如何提升速度

p3rjfoxz

p3rjfoxz1#

\n\n你好!如果你想进行预测,可以尝试使用GPU进行预测。另外,你也可以尝试使用加速模型accelerate_mode=True,该模型的链接为:https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.8/paddlehub/finetune/task/base_task.py#L1095

相关问题