计算器的计算误差与计算精确度的研讨

• 作者: 张允中
• 来源期刊: 林业建设
• 学科: 工学
• 关键词: Casio计算器 计算误差 计算精度
• 年，卷（期）: 2002,（6）
• 所属期刊栏目: 研究 探讨 展望
• 页码范围: 24-27
• 页数: 4页
• 分类号: TP332
• 字数: 3092字
• 语种: 中文
• DOI: 10.3969/j.issn.1006-6918.2002.06.008

摘要

程序型计算器在林业上应用十分广泛，而用计算器进行数值计算都可能出现误差。现给出减小误差的原理和算法途径；指出不同档次的计算工具有不同的计算精确度，应根据对计算误差的要求进行恰当选用；CASIOfx-3000p系列计算器因节省末3Bit位而采用“七舍八入”的特殊处理规则导致误差过大。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	张允中	云南农业大学林业职业技术学院	1	0	0.0	0.0