如题,设置ncnn.set_omp_num_threads和net.opt.num_threads都没有效果,采用绑核的方式也没办法调用多个核,系统环境为aarch64
muk1a3rh1#
你是跑的什么模型?有些算子是只能串行处理的另外你可以用openmp起多个extractor来进行多batch并行推理
1条答案
按热度按时间muk1a3rh1#
你是跑的什么模型?有些算子是只能串行处理的
另外你可以用openmp起多个extractor来进行多batch并行推理