a=30.1415; f=%7.3f\n

[复制链接]
查看11 | 回复1 | 2012-3-16 08:46:06 | 显示全部楼层 |阅读模式
基本上是遵循四舍五入,但不完全这样说一下道理,小数的存储不可能是绝对的,也就是说除了0.5,0.25,0.75,0.125等2的n次方分之几外(x*1.0/2^n),其他的小数是近似存储的。比如0.1,他的二进制就是无限的一个数(你可以手工计算一下试试)所以啊,当二进制转换成十进制的时候,也是不绝对的,比这个数要大一些或者小一些,有可能(我只是说有可能啊)不那么正巧是这个四舍五入的分界点的一边,所以说是四舍五入就不那么准确...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行