ncnn模拟转换后识别精度影响

p4rjhz4m  于 2022-10-22  发布在  其他
关注(0)|答案(4)|浏览(246)

在使用yolov5/yolov7通过ncnn部署到android端时,发现在电脑上使用yolov5/yolov7自带的detect能够正确识别。但通过onnx、pnnx转换之后用ncnn加载的模型文件,有少部分图片识别错误的情况。感觉上是精度有一定的损失,一直困扰哪个环节出现了问题。请前辈们不吝指导,谢谢~~~

ie3xauqp

ie3xauqp1#

可以尝试从模型转换是否量化(精度损失)和后处理部分看看有没有可能 具体的我就说不好了

h43kikqp

h43kikqp2#

可以尝试从模型转换是否量化(精度损失)和后处理部分看看有没有可能 具体的我就说不好了

谢谢提供宝贵思路´◡`

ct2axkht

ct2axkht3#

之前调试的时候发现,Python和java在图片归一化时浮点型精度不一样,Python好像就保留6位小数

scyqe7ek

scyqe7ek4#

之前调试的时候发现,Python和java在图片归一化时浮点型精度不一样,Python好像就保留6位小数
后续确认下这个精度问题,目前只是通过把训练时的--image 640改成960, 来达到的最终效果。

相关问题