qaxu7uf21#
@bingqingsuimeng x86_64 没效果的 在arm上测试这个量化:)
gwo2fgha2#
我的模型也一样,原来x86_64服务器上16ms,量化后的模型35ms左右;用IOS设备调用原始的模型12-17ms,量化后的模型35ms+ 跟服务器上的结果一样。
bhmjp9jg3#
方便的话,原始模型和量化模型邮件一下,我们测试看看。
s5a0g9ez4#
@czy2014hust 后续有计划开发针对x86_64平台的量化么?
knpiaxh15#
跟领导请示一下, 结果也不对, 差的还挺多的 正常吗?
6vl6ewon6#
就是在arm上测试的。。要是x86的话,我就用不着量化了。。
2izufjch7#
请问这个问题有结果了么
7条答案
按热度按时间qaxu7uf21#
@bingqingsuimeng x86_64 没效果的 在arm上测试这个量化:)
gwo2fgha2#
我的模型也一样,原来x86_64服务器上16ms,量化后的模型35ms左右;用IOS设备调用原始的模型12-17ms,量化后的模型35ms+ 跟服务器上的结果一样。
bhmjp9jg3#
方便的话,原始模型和量化模型邮件一下,我们测试看看。
s5a0g9ez4#
@czy2014hust 后续有计划开发针对x86_64平台的量化么?
knpiaxh15#
方便的话,原始模型和量化模型邮件一下,我们测试看看。
跟领导请示一下, 结果也不对, 差的还挺多的 正常吗?
6vl6ewon6#
@bingqingsuimeng x86_64 没效果的 在arm上测试这个量化:)
就是在arm上测试的。。要是x86的话,我就用不着量化了。。
2izufjch7#
请问这个问题有结果了么