计算机应用

作者：王曙燕, 侯则昱, 孙家泽

单位：西安邮电大学 可信软件实验室, 西安 710121

关键词：深度神经网络,对抗攻击,对抗样本,残差神经网络,差异性检测

基金：2020年陕西省重点研发计划项目（2020GY-010）；2019年西安市科技计划项目（2019218114GXRC017CG018-GXYD17.10）。

深度神经网络（DNN）在许多深度学习关键系统如人脸识别、智能驾驶中被证明容易受到对抗样本攻击，而对多种类对抗样本的检测还存在着检测不充分以及检测效率低的问题，为此，提出一种面向深度学习模型的对抗样本差异性检测方法。首先，构建工业化生产中常用的残差神经网络模型作为对抗样本生成与检测系统的模型；然后，利用多种对抗攻击攻击深度学习模型以产生对抗样本组；最终，构建样本差异性检测系统，包含置信度检测、感知度检测及抗干扰度检测三个子检测系统共7项检测方法。在MNIST与Cifar-10数据集上的实验结果表明，属于不同对抗攻击的对抗样本在置信度、感知度、抗干扰度等各项性能检测上存在明显差异，如感知度各项指标优异的对抗样本在置信度以及抗干扰度的检测中，相较于其他类的对抗样本表现出明显不足；同时，证明了在两个数据集上呈现出差异的一致性。通过运用该检测方法，能有效提升模型对对抗样本检测的全面性与多样性。

来源：2021年第7期

《计算机应用》期刊编辑部

查看计算机应用杂志2021年第7期