表格浮点误差怎么解决
发布网友
发布时间:2022-04-24 05:34
我来回答
共1个回答
热心网友
时间:2022-04-15 23:54
在Excel进行计算时在计算机中是转换成二进制进算然后保留数值的,所以会出现误差。解决方法:
1、打开excel表格,在单元格A1中输入数字“2.88”,在单元格B1中输入数字“5.89”。
2、在C1单元格中输入计算公式:=(ROUND(A1,2))+ROUND(B1,2),意思为使用ROUND函数确保小数位为2位。
3、点击回车生成函数公式计算结果,得到的数值为“8.77”。
4、复制C1单元格,在C2点击右键,选择“粘贴数值”。
5、粘贴之后,可以看到计算得到的数值是小数点显示后两位,没有出现误差。