按照yolov8的ncnn推理,在web上部署运行很慢,如何优化

c6ubokkw  于 2个月前  发布在  其他
关注(0)|答案(4)|浏览(36)

detail | 详细描述 | 詳細な説明

使用了ncnn项目中提供的yolov8推理代码,在web上跑推理很慢
ex.input("in0", in_pad);

std::vector<Object> proposals;

// stride 32
{
    ncnn::Mat out;
    ex.extract("out0", out);

这个转化耗时了800ms,如何进一步优化

sr4lhrrt

sr4lhrrt2#

是的,转成wasn’t了

ekqde3dh

ekqde3dh3#

是的,转成wasn’t了

CPU是否有跑满?有编译好的html能否给一个让我们玩一玩?

m3eecexj

m3eecexj4#

web.zip
拿去吧,但是推理很慢,大佬们优化一下

相关问题