中职计算机专业基于VFP编程运算错误学习计算机数据

• 作者: 张纯 徐晓海
• 来源期刊: 办公自动化
• 学科: 工学
• 关键词: 运算 程序 数制 浮点数
• 年，卷（期）: 2020,（19）
• 所属期刊栏目: 科研·教育
• 页码范围: 35-38
• 页数: 4页
• 分类号: G712|TP311
• 语种: 中文

摘要

"万能的计算机是不会出现计算错误的".但实际上,依然存在程序运行后无法得到正确数值的情况.其中,小数运算就是一个典型的例子.本文论述计算机进行小数处理的机制,并了解计算机在运算时为什么会出错,以及应该如何避免出错.