计算机应用

作者：吴锦富, 柳毅

单位：广东工业大学 计算机学院，广州 510006

关键词：深度学习,对抗样本,对抗训练,随机噪声,自适应攻击步长

基金：广东省重点领域研发计划项目(2021B0101200002);广州市南沙区重点领域科技项目(2022ZD010)

当前对抗训练（AT）及其变体被证明是防御对抗攻击的最有效方法，但生成对抗样本的过程需要庞大的计算资源，导致模型训练效率低、可行性不强；快速AT（Fast-AT）使用单步对抗攻击代替多步对抗攻击加速训练过程，但模型鲁棒性远低于多步AT方法且容易发生灾难性过拟合（CO）。针对这些问题，提出一种基于随机噪声和自适应步长的Fast-AT方法。首先，在生成对抗样本的每次迭代中，通过对原始输入图像添加随机噪声增强数据；其次，累积训练过程中每个对抗样本的梯度，并根据梯度信息自适应地调整对抗样本的扰动步长；最后，根据步长和梯度进行对抗攻击，生成对抗样本用于模型训练。在CIFAR-10、CIFAR-100数据集上进行多种对抗攻击，相较于N-FGSM（Noise Fast Gradient Sign Method），所提方法在鲁棒准确率上取得了至少0.35个百分点的提升。实验结果表明，所提方法能避免Fast-AT中的CO问题，提高深度学习模型的鲁棒性。

来源：2024年第6期

《计算机应用》期刊编辑部

查看计算机应用杂志2024年第6期