用ernie模型fin_tuning之后,预测效率好差,一条需要0.7s左右,因为本机CPU的原因吗?这是正常吗?如何提升速度
p3rjfoxz1#
\n\n你好!如果你想进行预测,可以尝试使用GPU进行预测。另外,你也可以尝试使用加速模型accelerate_mode=True,该模型的链接为:https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.8/paddlehub/finetune/task/base_task.py#L1095
accelerate_mode=True
1条答案
按热度按时间p3rjfoxz1#
\n\n你好!如果你想进行预测,可以尝试使用GPU进行预测。另外,你也可以尝试使用加速模型
accelerate_mode=True
,该模型的链接为:https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.8/paddlehub/finetune/task/base_task.py#L1095