请问ncnn支持uint8量化吗？

brqmpdu1 于 4个月前发布在其他

关注(0)|答案(7)|浏览(45)

detail | 详细描述 | 詳細な説明

来源：https://github.com/Tencent/ncnn/issues/3930

7条答案

按热度按时间

int8量化有，uint8是什么鬼

赞(0）回复(0）举报 4个月前

unsigned int8量化。很多模型用Int8量化后精度损失很大，用Uint8会好很多。

赞(0）回复(0）举报 4个月前

unsigned int8量化。很多模型用Int8量化后精度损失很大，用Uint8会好很多。

emmmmmmmm，这个就不知道怎么玩了，等大佬来解答吧=。=

赞(0）回复(0）举报 4个月前

int8 量化，不取负数？不都是 256 个数的范围么？

赞(0）回复(0）举报 4个月前

考虑到 zero_point 计算要慢一点，现在就是对称量化 int8 。

赞(0）回复(0）举报 4个月前

这是底层实现的问题，看这个： https://zhuanlan.zhihu.com/p/476605320

最后一个 ”why -128 hurt performance“

赞(0）回复(0）举报 4个月前

@niinorz

赞(0）回复(0）举报 4个月前

相关问题

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 3个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 3个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 3个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 3个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 3个月前