·技术前沿·航天电子对抗2023年第1期基于深度学习的对抗攻击技术综述*蒋玲玲1，罗娟娟1，朱玉鹏2，周东青2（1.北京邮电大学计算机学院，北京100089；2.军事科学院系统工程研究院，北京100089）摘要：尽管深度学习模型在很多领域表现优异，但是研究表明其本身容易受到对抗样本的攻击，在模型实际部署的时候存在安全隐患。因此，在深度学习安全领域研究对抗样本非常重要。对计算机视觉领域中对抗攻击技术的现有成果进行了详细综述。首先介绍了对抗攻击的定义、分类标准以及发展，然后对比分析了现阶段经典的白盒和黑盒攻击方法，最后使用MNIST、CIFAR-10数据集对经典的攻击方法进行了实验验证。关键词：对抗样本；深度神经网络；黑盒攻击；白盒攻击中图分类号:TP319.08文献标志码:AAsurveyonadversarialattacksagainstdeeplearningJiangLingling1,LuoJuanjuan1,ZhuYupeng2,ZhouDongqing2(1.SchoolofComputerScience,BeijingUniversityofPostsandTelecommunications,Beijing100089,China;2.InstituteofSystemsEngineering,AcademyofMilitarySciences,Beijing100089,China)Abstract：Althoughdeeplearningmodelsperformwellinmanyfields，researcheshaveshownthattheyarevulnerabletoadversarialexamplesandfacesecurityriskswhenactuallydeployed.Therefore，thestudyofadver-sarialexamplesisofgreatsignificanceinthefieldofdeeplearningsecurity.Adetailedreviewofexistingresultsonadversarialattacktechniquesispresentedinthefieldofcomputervision.Firstly，thedefinition，classificationcriteria，anddevelopmentofadversarialattacksareintroduced.Thentheclassicalwhite-boxandblack-boxattackmethodsatthisstagearecomparedandanalyzed.FinallytheclassicalattackmethodsareexperimentallyverifiedusingMNIST，CIFAR-10datasets.Keywords：adversarialexamples；deepneuralnetwork；blackboxattack；whiteboxattack0引言在大数据时代下，人工智能飞速发展，在计算机视觉［1］、自然语言处理［2］、语音［3］等领域都取得了很大的成就。2012年Krizhevsky等人［1］提出AlexNet，并且在ImageNet［4］数据集上取得非常突出的表现，此后卷积神经网络（CNN）成为图像识别领域的标准结构。随着硬件设备的发展、对海量数据算力的提升，计算机视觉领域涌现了更多更好的深度神经网络（DNN），如VGG［5］、GoogleNet［6］、ResNet［7］等，然而一旦...
