计算机应用

作者：张李伟, 梁泉, 胡禹涛, 朱乔乐

单位：1.福建理工大学 计算机科学与数学学院，福州 350118；2.福建省大数据挖掘与应用技术重点实验室（福建理工大学），福州 350118

关键词：注意力机制,分组卷积,通道重洗,图像分类,目标检测

基金：福建省自然科学基金资助项目（GY?Z23014）。

注意力机制的引入使得主干网能够学习更具区分性的特征表示。然而，为了控制注意力的复杂度，传统的注意力机制采用的通道降维或减少通道数而增加批量大小的策略会导致过度减少通道数和损失重要特征信息的问题。为解决这一问题，提出通道重洗注意力（CSA）模块。首先，利用分组卷积学习注意力权重，以控制CSA的复杂度；其次，通过传统通道重洗和深层通道重洗（DCS）方法，增强不同组间的通道特征信息交流；再次，使用逆通道重洗恢复注意力权重的顺序；最后，将恢复后的注意力权重与原始特征图相乘，以获得更具表达能力的特征图。实验结果表明，在CIFAR-100数据集上，与添加CA（Coordinate Attention）的ResNet50相比，添加CSA的ResNet50的参数量降低了2.3%，Top-1准确率提升了0.57个百分点；与添加EMA（Efficient Multi-scale Attention）的ResNet50相比，添加CSA的ResNet50的计算量降低了18.4%，Top-1准确率提升了0.27个百分点。在COCO2017数据集上，添加CSA的YOLOv5s比添加CA和EMA的YOLOv5s在平均精度均值（mAP@50）上分别提升了0.5和0.2个百分点。可见，CSA达到了参数量和计算量的平衡，并能够同时提升图像分类任务的准确率和目标检测任务的定位能力。

来源：2025年第4期

《计算机应用》期刊编辑部

查看计算机应用杂志2025年第4期