国内刊号:51-1307/TP
国际刊号:1001-9081
发布日期:
作者:陈丹阳, 张长伦
单位:北京建筑大学 理学院,北京 102616
关键词:深度图神经网络,过度相关,L2正则化,最大信息化,多尺度去相关
基金:国家自然科学基金资助项目(62072024)
深度图神经网络(GNN)旨在捕捉复杂网络中的局部和全局特征,从而缓解图结构数据中的信息传递瓶颈。然而,现有的深度GNN模型常常面临特征过度相关的问题。因此,提出一种多尺度去相关图卷积网络(Multi-Deprop)模型。该模型包含特征传播和特征变换两种操作。在特征传播操作中,引入多尺度去相关参数,以使网络在传播过程中维持低层网络的高去相关性以及高层网络的弱去相关性,从而适应不同层级特征处理的需求。在特征变换操作中,引入正交正则化与最大信息化损失,其中:正交正则化损失保持特征独立性,最大信息化则最大化输入和表示之间的互信息,从而降低特征信息的冗余。最后,在7个节点分类的数据集上把所提模型与4个基准模型进行对比实验。实验结果表明, Multi-Deprop模型在大多数的2~32层的模型中能取得更优的节点分类准确率。特别是在Cora数据集上, Multi-Deprop模型的4~32层网络模型准确率相较于基准模型Deprop提升了0.80%~13.28%,即Multi-Deprop模型一定程度上解决了深层网络性能下降的问题。而在特征矩阵的相关性分析上,在Cora数据集上使用Multi-Deprop深层模型获得的特征矩阵相关性在0.40左右,即特征矩阵属于弱相关,说明Multi-Deprop模型极大地缓解了过相关现象。消融实验及损失可视化实验的结果表明,两个操作的改进均对模型性能有一定的提升作用。可见, Multi-Deprop模型能在保证高分类准确率的同时,显著降低深度网络中的特征冗余现象,具有较好的泛化性能和实用性。
来源:2025年第7期
《计算机应用》期刊编辑部