计算机应用

作者：宋逸飞, 柳毅

单位：广东工业大学 计算机学院，广州 510006

关键词：深度学习,对抗样本,对抗防御,数据增强,标签噪声

基金：广东省重点领域研发计划项目(2021B0101200002)

对抗训练（AT）是保护分类模型免受对抗性攻击的有效防御方法；然而，在训练过程中生成强对抗样本的高成本可能导致大量的额外训练时间。为了突破这一限制，探索基于单步攻击的快速对抗训练（FAT）。以往的工作从样本初始化、损失正则化和训练策略等不同角度改进了FAT；然而，在处理大扰动预算时会遇到灾难性过拟合（CO）。因此，提出一种基于数据增强与标签噪声的FAT方法。首先，对原始样本执行多种图像转换，并引入随机噪声进行数据增强；其次，少量标签噪声被注入；再次，使用增强的数据生成对抗样本用于模型训练；最后，根据对抗鲁棒性测试结果自适应地调整标签噪声率。在CIFAR-10和CIFAR-100数据集上的全面实验结果表明，相较于FGSM-MEP（Fast Gradient Sign Method with prior from the Momentum of all Previous Epoch）方法，所提方法在大扰动预算条件下，在2个数据集上的AA（AutoAttack）分别提升了4.63和5.38个百分点。实验结果验证了所提方法可以有效地处理大扰动预算下的CO问题，并显著增强模型的对抗鲁棒性。

来源：2024年第12期

《计算机应用》期刊编辑部

查看计算机应用杂志2024年第12期