EXCEL中,两个数的差为0,但在显示结果的单元格中没有显示0,而显示为-9.31323E-10是怎么回事

[复制链接]
查看11 | 回复3 | 2011-6-3 08:49:31 | 显示全部楼层 |阅读模式
我们也经常碰到.这是浮点运算的问题,属于正常现象。EXCEL采用二进制浮点运算,因为浮点运算在相同的二进制位数下运算数据大,精度高。但由此也带来了二进制转换为十进制数时有误差。而微软在EXCEL里对此未做处理。日常应用中,常规处理的办法有两种:一是:菜单:工具-选项-重新计算,勾选“以显示精度为准”。二是:在公式中用ROUND(),确定小数位数。...
回复

使用道具 举报

千问 | 2011-6-3 08:49:31 | 显示全部楼层
这是EXCEL计算精度的问题,建议你公式修改为=ROUND(A1-B1,5)最后的5代表保留5位小数点,根据自己的情况修改...
回复

使用道具 举报

千问 | 2011-6-3 08:49:31 | 显示全部楼层
明显显示的不是0, 请检查公式里包含的单元格是否有错误...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行