我用卡蒙达和春靴。
我创建了一个dmn表,但是我发现了一个双精度计算问题。
我需要用这个dmn表来计算结果。我们有两个来自java的变量:float a,double b。例如:a= 0.2,b=0.6且区间:
但是精度问题给出了b= 0.6000000000001 ~而不是0.6,表格给出了另一个区间
如何在dmn表中进行舍入,以接收#.#形式的变量结果?
我找到了一种方法来舍入变量,但我不工作
我用卡蒙达和春靴。
我创建了一个dmn表,但是我发现了一个双精度计算问题。
我需要用这个dmn表来计算结果。我们有两个来自java的变量:float a,double b。例如:a= 0.2,b=0.6且区间:
但是精度问题给出了b= 0.6000000000001 ~而不是0.6,表格给出了另一个区间
如何在dmn表中进行舍入,以接收#.#形式的变量结果?
我找到了一种方法来舍入变量,但我不工作
1条答案
按热度按时间uurv41yg1#
我找到了解决办法。问题就出在浮点值上
我刚刚在“表达式”字段中添加了脚本