平方根倒数速算法的精度优化

• 作者: 何卫强 周泉 杨靓
• 来源期刊: 微电子学与计算机
• 关键词: 平方根倒数 0xSf3759df 0x5f34ff59 卡马克常数 精度优化
• 年，卷（期）: 2019,（5）
• 页码范围: 64-69
• 页数: 6页
• 分类号: TP301.6
• 语种: 中文

摘要

平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精度提升大约30％～40％,而针对单个数据的计算,本文方法的意义在于能从一个更大的概率(平均约77％)上获得比原有方法更加精确的结果.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	周泉		1	0	0.0	0.0
2	杨靓		1	0	0.0	0.0
3	何卫强		1	0	0.0	0.0