浮点类型有效位数计算与应用分析

• 作者: 肖红德
• 来源期刊: 软件导刊
• 学科: 工学
• 关键词: 浮点类型 有效位数 存储单元 数制转换 不精确表示
• 年，卷（期）: 2019,（4）
• 所属期刊栏目: 软件理论与方法
• 页码范围: 50-56
• 页数: 7页
• 分类号: TP301
• 字数: 10055字
• 语种: 中文
• DOI: 10.11907/rjdk.182282

摘要

为弄清浮点类型数据在应用中存在"异常"现象的原因,研究了浮点类型数据在内存中的存储形式,得到与其在内存中存储规范一致的结果.分析浮点类型数据在内存中存储形式对应的理论区间并进行实验验证,得出浮点类型数据的精度(对于规范化浮点类型数据,float类型有效位数为6～8位,double类型有效位数为15～17位),进而对浮点类型数据在应用中的一些异常现象进行合理解释,比如"大数吃小数"、输出格式控制以及输出结果与预期不一致等.通过对浮点类型数据在计算机内存中表达形式的理论分析和实验验证,实现对实际数据进行离散化处理,为计算机内存中的表示和相关计算带来帮助.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	肖红德	河南大学民生学院	6	6	1.0	2.0