想在Linux server 在 paddleocr enable mkldnn .请问需要注意什么吗? 有人用Linux server 这么做吗?
zazmityj1#
server 模型使用cpu推理会比较慢,初次之外需要环境支持 mkldnn ,其余没有特殊注意的地方。 但推荐server模型使用GPU推理。
z3yyvxxp2#
mkldnn 没问题吗?
h7appiyu3#
您在使用过程中遇到了什么报错嘛?
azpvetkf4#
目前我是使用streamlit来测试 - 貌似不能启用mkldnn我再研究看看
4条答案
按热度按时间zazmityj1#
server 模型使用cpu推理会比较慢,初次之外需要环境支持 mkldnn ,其余没有特殊注意的地方。 但推荐server模型使用GPU推理。
z3yyvxxp2#
server 模型使用cpu推理会比较慢,初次之外需要环境支持 mkldnn ,其余没有特殊注意的地方。 但推荐server模型使用GPU推理。
mkldnn 没问题吗?
h7appiyu3#
您在使用过程中遇到了什么报错嘛?
azpvetkf4#
您在使用过程中遇到了什么报错嘛?
目前我是使用streamlit来测试 - 貌似不能启用mkldnn
我再研究看看