国内刊号:51-1307/TP
国际刊号:1001-9081
发布日期:
作者:王磊, 周文轩, 贾柠晖, 屈志昊
单位:1.国网江苏省电力有限公司 信息通信分公司,南京 210024;2.水利部水利大数据重点实验室(河海大学),南京 211100
关键词:联邦学习,梯度量化,两阶段压缩,物联网,隐私保护
基金:国网江苏省电力有限公司科技项目(J2023077)
针对隐私敏感物联网(IoT)场景中联邦学习面临巨大通信开销和梯度反演隐私泄露风险问题,提出一种名为QPR(Quantization and Pull Reduction)的两阶段联邦学习通信压缩框架。首先,将训练节点通过梯度量化技术压缩本地梯度后上传至服务器,以降低梯度传输的开销;其次,引入基于概率阈值的延迟模型下载机制(lazy pulling)以降低模型的同步频率,训练节点以预设概率同步全局模型,而其余迭代中复用本地历史模型;最后,通过严格的理论分析确保QPR在收敛速度上达到与标准无通信压缩联邦学习——联邦平均(FedAvg)算法相同的渐进阶次,且具备随训练节点数增多而线性加速的特性,从而保证系统的可延展性。实验结果表明,QPR在多个基准数据集和机器学习模型上均能显著提升通信效率。以ResNet18模型在CIFAR-10数据集上的训练任务为例,QPR在不损失模型精度的前提下,与无压缩的FedAvg算法相比,最高实现了8.27的通信加速比。
来源:2026年第3期
《计算机应用》期刊编辑部