在64核机器上跑ncnn模型,运行时只会调用其中一个核,设置哪些参数能跑指定数量的cpu核心

bwntbbo3  于 4个月前  发布在  其他
关注(0)|答案(1)|浏览(52)

如题,设置ncnn.set_omp_num_threads和net.opt.num_threads都没有效果,采用绑核的方式也没办法调用多个核,系统环境为aarch64

muk1a3rh

muk1a3rh1#

你是跑的什么模型?有些算子是只能串行处理的
另外你可以用openmp起多个extractor来进行多batch并行推理

相关问题