vc++6.0中 float double精度问题。具体问题见补充

[复制链接]
查看11 | 回复3 | 2011-9-13 13:32:07 | 显示全部楼层 |阅读模式
这里的六位数字是输出时候cout四舍五入机制得到的结果,你说的15-16位有效数字是double类型能够存储的精度。虽然它能够存储15~16位,但是打印的时候只输出了前面几位。cout输出小数位数可以通过cout.precision(x);来调整。把它加到cout16位的double型就一定不精确,只不过系统的double型精度安全保证是15-16位。...
回复

使用道具 举报

千问 | 2011-9-13 13:32:07 | 显示全部楼层
c语言里double是多了两个字节,可以表示更高精度,但是默认输出还是6位C++里float和double已经一样了,都是4个字节...
回复

使用道具 举报

千问 | 2011-9-13 13:32:07 | 显示全部楼层
只是输出显示的不一样。设置一下输出位数就可以了。...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行