第1期2023年1月电子学报ACTAELECTRONICASINICAVol.51No.1Jan.2023Mobile_BLNet：基于Big-LittleNet的轻量级卷积神经网络优化设计袁海英，成君鹏，曾智勇，武延瑞（北京工业大学信息学部，北京100124）摘要：针对深度卷积神经网络难以部署到资源受限的端侧设备这一问题，本文提出一种高效精简的轻量化卷积神经网络Mobile_BLNet，在模型规模、计算量和性能之间取得了良好的平衡.该网络引入深度可分离卷积和倒残差结构，通过合理分配不同分支的运算量缩减模型规模并节省大量计算资源；采用通道剪枝操作压缩网络模型，基于占总和比值方法裁剪对模型贡献度低的卷积通道，在相同压缩效果情况下提升了分类准确率；基于通道裁剪情况重构网络，进一步降低模型所需计算资源.实验结果表明，Mobile_BLNet结构精简、性能优异，在CIFAR-10/CIFAR-100数据集上以0.1M/0.3M参数量、9.6M/12.7M浮点计算量获得91.2%/71.5%分类准确率；在Food101/ImageNet数据集上以1.0M/2.1M参数量、203.0M/249.6M浮点计算量获得82.8%/70.9%分类准确率，满足轻量化卷积神经网络的端侧硬件高能效部署需求.关键词：轻量化设计；卷积神经网络；模型重构；剪枝操作；深度学习基金项目：国家自然科学基金（No.61001049）；北京市自然科学基金（No.4172010）中图分类号：TP391文献标识码：A文章编号：0372-2112(2023)01-0180-12电子学报URL:http://www.ejournal.org.cnDOI:10.12263/DZXB.20211671Mobile_BLNet:OptimizationDesignofLightweightConvolutionalNeuralNetworkBasedonBig-LittleNetYUANHai-ying,CHENGJun-peng,ZENGZhi-yong,WUYan-rui(FacultyofInformationTechnology,BeijingUniversityofTechnology,Beijing100124,China)Abstract:Sinceitisdifficultfordeepconvolutionalneuralnetworktobedeployedtoterminalequipmentwithlimit⁃edresources,thispaperproposesanefficient,compact,andlightweightnetworkMobile_BLNet,whichachievesagoodbal⁃ancebetweenmodelsize,computation,andperformance.Thenetworkusesdepthwiseseparableconvolutionandinversere⁃sidualstructure,reducesthescaleofthemodelandsavesalotofcomputingresourcesbyreasonablyallocatingtheamountofcomputationofdifferentbranches.Thetotalratiomethodisusedtoprunetheconvolutionchannelwithlowcontribu⁃tion,whichhasexcellentperformanceunderthesamecompressioneffect.Modelreconstructionisbasedont...
