Paddle attention模型tensorrt子图模型加载出错

qco9c6ql  于 2022-04-21  发布在  Java
关注(0)|答案(0)|浏览(112)

padlle_fluid_predictor

baidu/vis-open/paddle@stable
baidu/vis-open/paddle-lib@stable

recog_model.conf文件:
gpu_memory_mb : 1024
enable_ir_optim : 1
infer_engine : tensorrt
use_tensorrt : 1
tensorrt_workspace_size : 10240000

服务中使用tensorrt子图加速,在create_cnnpredict(model_path, "dl_attention_");处出错返回。若不使用tensorrt子图则正常加载模型。

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题