ncnn 关于初始化多个模型进行多线程的问题

q3qa4bjr  于 4个月前  发布在  其他
关注(0)|答案(2)|浏览(37)

你好。我初始化了N个模型,开N个线程在单个GPU上进行并行计算。理论上单个模型的运行时间不变,GPU占用变为原来的N倍,总运行时间变为原来的1/N左右。
但是我运行发现单个模型的运行时间变成了N倍,GPU占用不变,总运行时间没有发生变化。
我想知道这是什么原因呢?是不是如果我想并行运算德华,需要用特定的初始化方法或者调用方法?

zfciruhq

zfciruhq1#

现在怎么初始化的

8qgya5xd

8qgya5xd2#

现在用的是Example里面给的方式初始化的。其实我自己也不清楚是不是初始化的问题,好像我一个程序里面不能同时初始化同一个模型多次的感觉

相关问题