Tensorflow lite可以使用TfLiteDelegate 运行android GPU模式。paddle-lite中好像生成的lite model都是for cpu的。如果使用Android GPU版本的,model.nb for GPU应该怎么生成?有相关的文档介绍吗?
bxgwgixi1#
opt转换模型的时候,valid_targets选项添加opencl,即可使用mobile的gpu
dauxcl2d2#
@zhupengyang 谢谢!使用paddle_lite_opt 2.6.1版本。 valid_targets=arm可以成功运行;但是valid_targets=opencl,arm 出现以下错误:type_layout_cast_pass.cc:169] Check failed: is_found Can't find a layout kernel for layout op: Tensor<host,float,ImageDefault,0>:concat_2.tmp_0/target_trans->Tensor<host,float,NCHW,0>:multiclass_nms
请问有什么办法解决?
weylhg0b3#
@ysh329
ruarlubt4#
opencl支持的算子比arm的少
4条答案
按热度按时间bxgwgixi1#
opt转换模型的时候,valid_targets选项添加opencl,即可使用mobile的gpu
dauxcl2d2#
@zhupengyang 谢谢!使用paddle_lite_opt 2.6.1版本。 valid_targets=arm可以成功运行;但是valid_targets=opencl,arm 出现以下错误:
type_layout_cast_pass.cc:169] Check failed: is_found Can't find a layout kernel for layout op: Tensor<host,float,ImageDefault,0>:concat_2.tmp_0/target_trans->Tensor<host,float,NCHW,0>:multiclass_nms
请问有什么办法解决?
weylhg0b3#
@ysh329
ruarlubt4#
opencl支持的算子比arm的少