vb如何避免四舍五入?

[复制链接]
查看11 | 回复3 | 2015-6-8 20:13:23 | 显示全部楼层 |阅读模式
搞科研吗,double占8字节,能表示小数点后14位,这还不够吗?要实在不行就只有自定义数组了,数组大小为你要的小数点位数,然后分小数计算比如,a(0)=1/3的余数,a(1)=a(0)/3的余数,a(n)=a(n-1)/3的余数,以此类推,最后组合出一组字符串,用这种恩路也行
回复

使用道具 举报

千问 | 2015-6-8 20:13:23 | 显示全部楼层
Dim a As Decimal
Dim b As Decimal
Dim c As Decimal
a = 1
b = 0.365
c = a / b
MsgBox(c)
回复

使用道具 举报

千问 | 2015-6-8 20:13:23 | 显示全部楼层
定义用doublePrivate Sub Form_Load()Dim i As Doublei = 1 / 3Debug.Print iEnd Sub结果 .333333333333333 精度够了
回复

使用道具 举报

千问 | 2015-6-8 20:13:23 | 显示全部楼层
用 文本计算器……自己编一个
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行