求解,计算机计算方式方面的问题。

[复制链接]
查看11 | 回复1 | 2011-11-25 15:58:53 | 显示全部楼层 |阅读模式
应该不是。这个计算有限步内就能完成,不用啥截断误差。应该是matlab把这里面的数字当成浮点数来计算了。浮点数的计算其实是有误差的,比如 a = 0.5 * 2.0;这个时候 a不一定等于0.1。注意是“不一定”,不是“一定不”。具体可以baidu一下计算机里面的浮点数编码方式。...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行