No description provided.
mcvgt66p1#
Maybe, I don't describe this issue clearly.....If there are any further progress, please contact me.
gc0ot86w2#
CPU+GPU 是自动的哦当你开启gpu推理时，遇到不支持gpu的层会自动退回到cpu上计算，对于调用方是透明的
3bygqnnd3#
我的意思其实是 当前cpu+gpu 均可用 假设网络中有四个卷积 ，gpu的计算能力支持3个， 我想吧其中一个分配到cpu 另三个分配到gpu 以此并行来 进一步加速的策略，当前ncnn 支持这种策略嘛。不是开启 gpu 进而检查是否是gpu支持的算子，然后就全部分配到gpu了
3条答案
按热度按时间mcvgt66p1#
Maybe, I don't describe this issue clearly.....
If there are any further progress, please contact me.
gc0ot86w2#
CPU+GPU 是自动的哦
当你开启gpu推理时，遇到不支持gpu的层会自动退回到cpu上计算，对于调用方是透明的
3bygqnnd3#
我的意思其实是 当前cpu+gpu 均可用 假设网络中有四个卷积 ，gpu的计算能力支持3个， 我想吧其中一个分配到cpu 另三个分配到gpu 以此并行来 进一步加速的策略，当前ncnn 支持这种策略嘛。不是开启 gpu 进而检查是否是gpu支持的算子，然后就全部分配到gpu了