基于对比层级相关性传播的由粗到细的类激活映射算法研究孙辉史玉龙王蕊*(中国民航大学电子信息与自动化学院天津300300)摘要：以卷积神经网络为代表的深度学习算法高度依赖于模型的非线性和调试技术，在实际应用过程中普遍存在黑箱属性，严重限制了其在安全敏感领域的进一步发展。为此，该文提出一种由粗到细的类激活映射算法(CF-CAM)，用于对深度神经网络的决策行为进行诊断。该算法重新建立了特征图和模型决策之间的关系，利用对比层级相关性传播理论获取特征图中每个位置对网络决策的贡献生成空间级的相关性掩码，找到影响模型决策的重要性区域，再与经过模糊化操作的输入图像进行线性加权重新输入到网络中得到特征图的目标分数，从空间域和通道域实现对深度神经网络进行由粗到细的解释。实验结果表明，相较于其他方法该文提出的CF-CAM在忠实度和定位性能上具有显著提升。此外，该文将CF-CAM作为一种数据增强策略应用于鸟类细粒度分类任务，对困难样本进行学习，可以有效提高网络识别的准确率，进一步验证了CF-CAM算法的有效性和优越性。关键词：卷积神经网络；类激活映射；对比层级相关性传播；鸟类细粒度分类；数据增强中图分类号：TP183文献标识码：A文章编号：1009-5896(2023)04-1454-10DOI:10.11999/JEIT220113StudyofCoarse-to-FineClassActivationMappingAlgorithmsBasedonContrastiveLayer-wiseRelevancePropagationSUNHuiSHIYulongWANGRui(CollegeofElectronicInformationandAutomation,CivilAviationUniversityofChina,Tianjin300300,China)Abstract:DeeplearningalgorithmsrepresentedbyConvolutionalNeuralNetworks(CNN)arehighlydependentonthenonlinearityofthemodelanddebuggingtechniques,whichhavegenerallyblack-boxpropertiesduringpracticalapplications,limitingseverelytheirfurtherdevelopmentinsecurity-sensitivefields.Tothisend,aCoarse-to-FineClassActivationMapping(CF-CAM)algorithmisproposedfordiagnosingthedecision-makingbehaviorsofdeepneuralnetworks.Thealgorithmre-establishestherelationshipbetweenthefeaturemapandthemodeldecision,usesthecontrastivelayer-wiserelevancepropagationtheorytoobtainthecontributionofeachpositioninthefeaturemaptothenetworkdecision,generatesaspatial-levelcorrelationmaskandfindstheimportantareathataffectsthemodeldecision.Afterthat,themaskislinearlyweig...
