基于mobilenetv2进行模型定点化,定点化之前的模型在ncnn上的测试精度正常,定点化之后,基于(kl/eq/aciq)三种定点化放算法分别进行测试,kl和eq掉点严重(30%),aciq掉点正常(1%)。将kl和aciq生成的定点化结果进行对比,发现kl在第一层(conv1)处的scale异常(max=2.57,threshold=0.38),输入层截断误差过大,可能导致定点化后模型精度骤降。不知道这种情况是因为什么导致的呢?
wswtfjt71#
@nihui eq基于kl的初始化,问题来源或许是KL的实现吗?
1条答案
按热度按时间wswtfjt71#
@nihui eq基于kl的初始化,问题来源或许是KL的实现吗?