Handler混淆增强的虚拟机保护方法

• 作者: 刘粉林 向飞 芦斌 谢鑫
• 来源期刊: 计算机工程与应用
• 学科: 工学
• 关键词: 虚拟机保护 等价指令替换 切分乱序 多样化 表隐藏
• 年，卷（期）: 2016,（15）
• 所属期刊栏目: 网络、通信与安全
• 页码范围: 146-152
• 页数: 7页
• 分类号: TP309
• 字数: 6232字
• 语种: 中文
• DOI: 10.3778/j.issn.1002-8331.1410-0299

摘要

按照一定顺序执行虚拟指令处理函数（Handler）可完成程序关键代码的保护，其为软件逆向分析者攻击的重点对象。针对“动态提取，静态分析”的Handler攻击方法，提出一种基于Handler混淆增强的虚拟机保护方法。运用等价指令替换规则生成多种等价Handler序列，对所有Handler进行变长切分和随机乱序，通过构建跳转表对乱序序列进行重组，构建随机地址数组对Handler调度地址表和执行跳转表进行隐藏。实验和分析表明：多样化Handler生成、切分和乱序增加了动态提取和分析的难度，Handler地址表和跳转表的隐藏增加了抵御静态逆向分析的难度，从而提升了虚拟机保护强度。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘粉林		22	130	6.0	11.0
3	向飞		8	14	3.0	3.0
5	芦斌		12	65	4.0	8.0
9	谢鑫		3	16	3.0	3.0