基于最大化交叉互信息的对称 IB 算法

• 作者: 叶阳东 娄铮铮
• 来源期刊: 计算机学报
• 学科: 工学
• 关键词: IB 方法 多变量 IB 对称 IB 双向压缩 联合聚类 数据挖掘
• 年，卷（期）: 2016,（8）
• 所属期刊栏目: 数据挖掘、机器学习与类脑智能
• 页码范围: 1515-1527
• 页数: 13页
• 分类号: TP18
• 字数: 12459字
• 语种: 中文
• DOI: 10.11897/SP.J.1016.2016.01515

摘要

对称 IB（Symmetric Information Bottleneck）通过行、列压缩变量之间的相互协作来挖掘数据中的双向压缩模式．由于行、列压缩变量不能完全承载行、列基层变量中所蕴含的特征信息，从而导致对称 IB 所得的数据双向压缩模式与基层变量所蕴含的内在模式之间存在一定的偏离．针对该问题，通过最大化地保存压缩变量与基层变量交叉之间的互信息，将基层变量引入到数据的双向压缩中，使它们协助压缩变量共同来学习联合分布中的双向压缩模式，提出交叉对称 IB：ICSIB（Inter-Correlated Symmetric Information Bottleneck）．ICSIB 算法采用交错的顺序“抽取-合并”迭代过程来优化压缩变量与基层变量交叉之间的互信息，可保证得到目标函数的一个局部优解．实验结果表明，在基层特征变量的协助下，ICSIB 算法得到的数据双向压缩模式更接近于数据中真实的内在模式，并可有效地应用于数据的联合聚类中．

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	叶阳东	郑州大学信息工程学院	69	612	14.0	22.0
2	娄铮铮	郑州大学信息工程学院	12	89	5.0	9.0