计算机应用

作者：涂银川, 郭勇, 毛恒, 任怡, 张建锋, 李宝

单位：国防科技大学 计算机学院，长沙 410073

关键词：模型评估,图神经网络,分布式训练,训练效率,训练性能

基金：湖南自然科学基金青年项目(2021JJ40678)

随着图数据规模的快速增长，图神经网络（GNN）在处理大规模图结构数据时面临计算和存储方面的挑战。传统的单机训练方法已不足以应对日益庞大的数据集和复杂的GNN模型，分布式训练凭借并行计算能力和可扩展性，成为解决这些问题的有效途径。然而，一方面，已有的分布式GNN训练评估主要关注以模型精度为代表的性能指标和以训练时间为代表的效率指标，而较少关注数据处理效率和计算资源利用方面的指标；另一方面，算法效率评估的主要场景为单机单卡或单机多卡，而已有的评估方法在分布式环境中的应用相对简单。针对这些不足，提出针对分布式场景的模型训练的评估方法，涵盖评估指标、数据集和模型这3个方面。根据评估方法，选取3个代表性GNN模型，在4个具有不同数据特征的大型公开图数据集上进行分布式训练实验，并收集和分析得到的评估指标。实验结果表明，分布式训练中的模型架构和数据结构特征对模型复杂度、训练时间、计算节点吞吐量和计算节点平均吞吐量之比（NATR）均有影响；样本处理与数据拷贝占用了模型训练较多时间，计算节点互相等待的时间也不容忽视；相较于单机训练，分布式训练的计算节点吞吐量有显著降低，且需要进一步优化分布式系统中的资源利用。可见，所提评估方法为GNN模型在分布式环境中的训练性能优化提供了参考依据，并为模型的进一步优化和算法的改进奠定了实验基础。

来源：2025年第8期

《计算机应用》期刊编辑部

查看计算机应用杂志2025年第8期