显卡单精度浮点运算能力怎么算

[复制链接]
查看11 | 回复1 | 2013-3-6 16:07:11 | 显示全部楼层 |阅读模式
浮点是float, 比如1.323256256 + 12.5425632bit长度精度运算显卡最普遍精度是64bit/128bit,128bit略慢, 图形transform全是浮点运算,GPU设计出来就是做浮点的这个很不好说,我正在计算浮点用人脑。很头痛啊,二进制实数,十进制,指数,分数,十进制分数.都算然后来回转换。这是单精度的,单精度是二进制32位的,双精度是二进制64位的。浮点是float, 比如1.323256256 + 12.5425632bit长度精度运算显卡最普遍精度是64bit/128bit,128bit略慢, 图形transform全是浮点运算,GPU设计出来就是做浮点的你应该可以想象了吧 A 卡略强些!...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行