Re:请教为何excel计算结果非零?它是如何计算的?

[复制链接]
查看11 | 回复0 | 2021-1-29 04:36:26 | 显示全部楼层 |阅读模式
因为excel采用x86双精度浮点系统,有效位数差不多就是16位seafairy (平地一声雷) 在 ta 的帖子中提到:rt比如在excel中输入一组数0.4137080.4128060.41190.4109940.410092然后隔一个相减,如上则A1-A3记为B2,A2-A4记为B3。。得B2,B3,B40.001808...........................
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行