c++小数计算后数字变化

[复制链接]
查看11 | 回复2 | 2012-3-11 19:33:03 | 显示全部楼层 |阅读模式
这个 是 浮点数 的 存储 造成的, 你要 看一下 浮点数 是怎么 存储的就知道的啦我简单说一下浮点数 存储的 时候 是先 把 这个 数 转化成 二进制浮点数 , 然后 再用 科学计数法 表示而 十进制 转化 为 二进制时, 很多数 不能 正好 转化为 与之 相等 的 数,只能 用 其 近似值 表示, 因此 产生 了 误差在 计算机 学 里, 这就是 精度 问题...
回复

使用道具 举报

千问 | 2012-3-11 19:33:03 | 显示全部楼层
那是你对数设置了精确到第几位了。...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行