请教关于计算器设计中浮点运算精度是真问题

[复制链接]
查看11 | 回复1 | 2010-5-28 12:31:43 | 显示全部楼层 |阅读模式
在c51中,类似于0.3这样的数永远不可能精确显示,并且float保留7位有效数字。那么我在用51中设计带小数运算功能的计算器时如何能保证小数的精度呢?我的显示屏是7位led那么要求可以准确显示小数点后六位。一般的计算器都可以精确显示啊,他们是用什么方法控制的呢

回复

使用道具 举报

千问 | 2010-5-28 12:31:43 | 显示全部楼层
不知道,楼主好强大,改double试试
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行