3.121×120用尾数法算是1×0、这2个数的积的尾数为什么不是0而是2呢。

[复制链接]
查看11 | 回复3 | 2011-3-2 16:01:37 | 显示全部楼层 |阅读模式
这个不难,尾数算法要考虑到计算的位数,这里处理的是小数点后第二位,能产生小数点第二位的有:31.21×16中的0.01×6,即1×6;3.121×120中的0.001×2(0)和0.02×0,即1×2+2×0;312.1×6.2中的0.1×0.2,即1×2。那么总的来算,尾数算法计算出小数点后第二位的结果为:1×6+1×2+2×0+1×2=10,进一位,小数点后第二位为0,和直接计算结果吻合。...
回复

使用道具 举报

千问 | 2011-3-2 16:01:37 | 显示全部楼层
3.121×120=31.21×12
尾数是1乘以2等于2下面那个类似...
回复

使用道具 举报

千问 | 2011-3-2 16:01:37 | 显示全部楼层
3.121×120 你要是看成 31.21×12 尾数就是2了,就是小数位的问题...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行