我们都知道,一些有理数在用浮点表示时会有错误,如下所示:
SELECT SUM( TEST )
FROM (
SELECT @N := @N +1 AS rownumber, 1/3 AS TEST
FROM INFORMATION_SCHEMA.COLUMNS, (
SELECT @N :=0
)dummyRowNums
LIMIT 3000
) AS test
我在我的系统中广泛使用了有理数算法,我正在寻找一种方法使它尽可能精确,有什么现成的解决方案吗?
这不是这个问题的重复,因为我在问如何在mysql上正确地执行rational算法,而在那里他们讨论了为什么rational算法会被破坏。
暂无答案!
目前还没有任何答案,快来回答吧!