ncnn 模型定点化精度问题

rm5edbpk  于 5个月前  发布在  其他
关注(0)|答案(1)|浏览(42)

基于mobilenetv2进行模型定点化,定点化之前的模型在ncnn上的测试精度正常,定点化之后,基于(kl/eq/aciq)三种定点化放算法分别进行测试,kl和eq掉点严重(30%),aciq掉点正常(1%)。将kl和aciq生成的定点化结果进行对比,发现kl在第一层(conv1)处的scale异常(max=2.57,threshold=0.38),输入层截断误差过大,可能导致定点化后模型精度骤降。不知道这种情况是因为什么导致的呢?

wswtfjt7

wswtfjt71#

@nihui eq基于kl的初始化,问题来源或许是KL的实现吗?

相关问题