CASIO计算器误差究竟有多大？

显示全部楼层 · 2009-6-26 19:30:14

我用fx-991ES型号CASIO计算器计算如sin360°52’-sin52’时得到-1.16×10^-16的结果（应为0）。试问其允许误差有多少？这种情况是否算质量问题？

千问 · 2009-6-26 19:30:14

说明书上的说明--计算器内部计算所需的数字位数：15位数；精确度：一般说来，单一计算为第十个数字处的加减1(注：加减1即加1或减1，该符号无法输入)。指数显示最小有效数字的精确度为加减1。若连续计算，误差会累加。即是说，计算的时候会有误差，而三角函数的计算结果本来就是近似值，因此，1.16*10^(-14)的误差是非常正常的。...