Paddle-Lite 模型优化工具 opt和PaddleSlim是什么关系?

ffx8fchx  于 2021-12-01  发布在  Java
关注(0)|答案(6)|浏览(374)

用了opt工具把PaddlePaddle模型转换为Paddle-Lite模型,还需要额外用PaddleSlim对模型做量化优化吗?
我看opt说明里本身也包含了量化过程了

qij5mzcb

qij5mzcb1#

您好,我们已经收到了您的问题,会安排技术人员尽快解答您的问题,请耐心等待。请您再次检查是否提供了清晰的问题描述、复现代码、环境&版本、报错信息等。同时,您也可以通过查看官网文档常见问题历史Issue来寻求解答。祝您生活愉快~

Hi! We've received your issue and please be patient to get responded. We will arrange technicians to answer your questions as soon as possible. Please make sure that you have posted enough message to demo your request. You may also check out the APIFAQ and Github Issue to get the answer.Have a nice day!

ckocjqey

ckocjqey2#

要跑量化模型,必须先用paddleslim转paddle模型,然后转之后的模型再使用opt。直接使用opt是不会生成量化模型的

lp0sw83n

lp0sw83n3#

如果不先用paddleslim转paddle模型,直接用opt转换到Paddle-Lite模型,可以放到手机里用吗?

uurv41yg

uurv41yg4#

可以,这样跑的是就是普通前向模型,未进行int8量化的模型。

vddsk6oq

vddsk6oq5#

这样未进行量化的模型,是不是在手机上上性能要差很多?

kiz8lqtg

kiz8lqtg6#

不会的,即使不量化,paddle lite也做了一些优化,确保模型的性能。

相关问题