Hi team,
我想请教下如何在CPU上加速PaddleOCR的文字识别模型 （Ultra lightweight PP-OCRv3 recognition model）。我目前在Windows + Intel(R) Core(TM) i7-10700 + onnxruntime 平台上，推理一张~100文字区域的图片（类似门户网站截图）大概需要1000ms，我希望降低到100ms左右，有哪些可以探索的方向呢？（比如openvino/量化）感谢！
qc6wkl3g1#
CPU降到100ms想多了
fwzugrvs2#
Hi @XiaokangLei 感谢回复, 如果是只识别清晰印刷体的话是不是可以把v3提供的模型做得更小一点呢。
xv8emn3q3#
你好，这块只能降低模型大小，比如减少网络的深度或者宽度，然后自己训练，预测的话，可以尝试开始mkldnn
0ve6wy6x4#
自定义网络，改模型结构，这块得自己改网络框架了
yx2lnoni5#
好的谢谢两位 @XiaokangLei@littletomatodonkey
czq61nw16#
用openvino吧，会快很多
6条答案
按热度按时间qc6wkl3g1#
CPU降到100ms想多了
fwzugrvs2#
CPU降到100ms想多了
Hi @XiaokangLei 感谢回复, 如果是只识别清晰印刷体的话是不是可以把v3提供的模型做得更小一点呢。
xv8emn3q3#
你好，这块只能降低模型大小，比如减少网络的深度或者宽度，然后自己训练，预测的话，可以尝试开始mkldnn
0ve6wy6x4#
CPU降到100ms想多了
Hi @XiaokangLei 感谢回复, 如果是只识别清晰印刷体的话是不是可以把v3提供的模型做得更小一点呢。
自定义网络，改模型结构，这块得自己改网络框架了
yx2lnoni5#
好的谢谢两位 @XiaokangLei@littletomatodonkey
czq61nw16#
用openvino吧，会快很多