模型部署后运行耗时严重,请问有哪些方法可以改善?
ngynwnxp1#
第一张图一般预测耗时都会很多,因为需要warmup
vwkv1x7d2#
好的,谢谢您
vatpfxk53#
EIYI您好,请问预测的warmup我可以理解是参数的读取吗?
3条答案
按热度按时间ngynwnxp1#
第一张图一般预测耗时都会很多,因为需要warmup
vwkv1x7d2#
第一张图一般预测耗时都会很多,因为需要warmup
好的,谢谢您
vatpfxk53#
第一张图一般预测耗时都会很多,因为需要warmup
EIYI
您好,请问预测的warmup我可以理解是参数的读取吗?