这个问题在这里已经有答案了:
浮点数学坏了吗((31个答案)两年前关门了。简单的sql代码会产生奇怪的结果:
select '0.29'*100;
结果:28.999999996另一个:
select '0.28'*100;
结果:28.000000000000004发生什么事?是虫子吗?我找不到其他有这种行为的号码。
4jb9z9bj1#
double是32位的,当你输出它是int时,它是16位的,当然会损失精度
1条答案
按热度按时间4jb9z9bj1#
double是32位的,当你输出它是int时,它是16位的,当然会损失精度