基于改进的ResNet在甘蔗病害识别中的研究.pdf

-27-甘蔗是世界上重要的糖类作物之一，对全球糖业和各国的经济发展具有重要意义。然而甘蔗病害对甘蔗种植业造成了严重的影响，导致甘蔗产量和质量不同程度地下降。因此，对甘蔗病害进行准确、及时地识别，并采取相应的防治措施对于保障甘蔗产量、提高甘蔗质量和保护农业生态环境具有极其重要的意义。近年来，深度学习技术在图像识别领域取得了显著的成果。卷积神经网络（CNN）作为一种典型的深度学习模型，已经被广泛应用于各种图像识别任务，包括农业病害识别。近年来，已有部分学者在农作物病害识别领域进行了相关研究。例如，孙瑜等1使用支持向量机（SVM）分类器对黄花菜叶部病害图像进行分类，取得了较好的分类效果。秦立峰等2提出了一种基于自适应特征融合的黄瓜病害识别方法，采用建立类别相关词袋模型，提取病害图像的高维词袋特征，然后用主成分分析法将病害高维特征降维到多个不同维数子空间来对黄瓜病害进行识别和分类。另外，也有一些学者采用了传统的卷积神经网络结构对不同农作物病害进行了分类和识别3-4。然而这些方法在实际应用中仍存在着一些问题，如分类精度低、计算复杂度高等。因此，一些学者开始探索新的方法来提高农作物病害的识别精度和效基于改进的ResNet在甘蔗病害识别中的研究李冬睿，邱尚明，蓝新波，杨善友（广东农工商职业技术学院 计算机学院，广州 510507）摘要：针对传统ResNet在甘蔗病害识别中的局限性，如模型泛化能力不足、训练收敛速度慢和容易过拟合等问题，提出一种改进型ResNet模型的解决方案。对原始ResNet模型实施了多方面的优化，重点包括对残差模块的改进以减少梯度消失，扩展模型深度以提高表达能力，以及引入注意力机制以更有效地捕捉局部信息和关键特征。试验结果表明：改进型ResNet模型在甘蔗病害识别任务中实现了较高的准确率、召回率和F1值；训练过程中改进型ResNet模型展现出较快的收敛速度，同时通过采用早停策略能够有效地避免过拟合问题，使得模型在测试集上的性能更加稳定，从而进一步提高了甘蔗病害识别的准确性和可靠性。关键词：甘蔗病害；改进型ResNet；图像识别；注意力机制中图分类号：TP391.41文献标识码：A文章编号：1003-6997（2023）08-0027-05作者简介：李冬睿，副教授，主要从事图形图像处理及人工智能研究。E-mail：ldr_基金项目：2022年广东省教育厅普通高校重点领域专项“基于深度学习的甘蔗病害识别研究”（2022ZDZX1063）；2021年广东省教育厅普通高校重点领域专项“乡村振兴背景下认养农业模式智慧果树认领的探 索与实践”（2021ZDZX4116）；2020年广东省教育厅普通高校重点科研项目（自然科学）“乡 村振兴视域下农村网络直播电商平台建设与应用研究”（2020ZDZX1065）。收稿日期：2023-04-10智慧农业-28-2023年第08期总第661期率。例如，有学者采用卷积神经网络中的残差连接来构建深度网络，获得了良好的性能5；还有一些学者加入了注意力机制，进一步提高了模型的识别效果6。本文提出一种基于改进的ResNet模型的甘蔗病害识别算法。首先对ResNet模型进行优化，包括对残差模块的优化、增加模型深度以及引入注意力机制；然后将改进的ResNet模型应用于甘蔗病害识别任务，并通过试验验证了改进后的模型在甘蔗病害识别方面具有较高的准确率和鲁棒性。深度残差网络模型及其应用1.1 深度残差网络简介深度残差网络（ResNet）是2015年由Kaiming He等7提出的一种卷积神经网络结构。在传统的卷积神经网络中，随着网络层数的增加，训练误差会出现退化现象，即网络层数增加反而导致训练误差上升。深度残差网络的核心思想是在卷积层之间引入跳跃连接（skip connection），使得浅层网络的输出可以直接传递到较深层的网络，从而避免了梯度消失问题。具体来说，残差模块包括2个或多个卷积层，并通过跳跃连接将输入直接与输出相加，形成一个恒等映射。这种设计使得网络可以学习到更丰富的特征表示，提高了模型的泛化能力。残差网络的基本模块如图1所示，ResNet通过引入残差模块有效地解决了深度卷积神经网络训练过程中出现的梯度消失和梯度爆炸等问题，从而实现了更深层次的网络结构。由于残差模块的设计，整个网络只需要学习输入与输出之间的残差部分，大大简化了学习目标和难度，保护了信息的完整性，提高了网络的训练效率和准确性。图1残差网络的基本模块1.2 深度学习在农业病害识别中的应用近年来，随着深度学习技术的发展，卷积神经网络（CNN）已经在农业病害识别领域取得了显著的成果。相比传统的基于特征提取和分类器的方法，深度学习方法具有更高的准确率和鲁棒性。在农业病害识别领域，研究者们已经尝试了多种深度学习模型。例如，杨双蝶8提出了一种基于卷积神经网络的玉米病害识别方法，该方法在玉米病害识别上具有较高的准确率。冀常鹏等9构建了一种GSNet网络的作物病害识别方法，该方法在早期番茄叶面病害识别上具有较好的性能。尽管深度学习在农业病害识别领域已经取得了一定的成功，但仍存在许多挑战和需要改进的地方。例如，许多现有的研究主要采用了预训练的深度学习模型，如VGG、ResNet等，这些模型在农业病害识别任务上可能并非最优。因此，针对特定农作物的病害识别任务，如甘蔗病害识别，需要对现有的深度学习模型进行改进和优化，以提高识别性能。改进的ResNet模型2.1 ResNet模型的基本结构ResNet模型的基本结构由多个残差模块组成，每个残差模块包含2个或多个卷积层，使得网络可以学习到更丰富的特征表示，提高了模型的泛化能力。具体来说，残差模块的输出表示为式（1）：y=F（x，Wi）+x （1）式（1）中，x表示残差模块的输入，y表示残差模块的输出，F表示残差模块中的映射函数，Wi表示映射函数中的权重参数。跳跃连接将输入x直接添加到残差模块的输出y中，这样输出y就可以直接连接到后续层的输入。这种连接方式可以避免信息丢失，使得网络可以更好地学习到输入和输出之间的关系。同时，跳跃连接也可以有效地缓解梯度消失问题，使得网络更容易训练。2.2 提出的改进措施2.2.1残差模块优化由于11卷积层是一种特殊的卷积层，其卷积核的大小为11，因此其主要用于降低特征图的维度。当特征图的维度过大时，网络的计算量会变得非常大，很难训练。通过引入11卷积层可降低特征图的维度，减少计算量，同时保证特征图的有效性。因此，对残差模块进行优化，引入了11卷积层。优化后的残-29-差模块结构如式（2）：y=F（x，Wi)+Wsx （2）式（2）中，Ws表示11卷积层的权重参数，F表示残差模块中的映射函数，x表示残差模块的输入，y表示残差模块的输出，Wi表示映射函数中的权重参数。2.2.2 引入Batch Normalization层 在ResNet模型中引入Batch Normalization层是一种常见的改进方法，其目的是提高模型的性能和稳定性。Batch Normalization层被加入残差模块的卷积层之后，对于每个批次的数据进行归一化处理。在引入Batch Normalization层后，残差模块的结构可以表示为式（3）：y=F（Batch Norm（x），Wi）+x）（3）式（3）中，x表示残差模块的输入，y表示残差模块的输出，F表示残差模块中的映射函数，Wi表示映射函数中的权重参数，Batch Norm表示Batch Normalization层。通过引入Batch Normalization层，可以有效地降低模型的训练难度，同时提高模型的性能和稳定性。为了提高模型的表示能力，在原始ResNet模型的基础上增加了网络层数，在每个残差模块中增加了1个卷积层，使网络结构更深。2.2.3引入注意力机制将注意力机制10应用于改进后的ResNet模型，以提高模型在甘蔗病害识别任务上的性能。注意力机制可以帮助模型关注图像中更为重要的局部特征，通过学习一个权重矩阵，将输入数据中的每一维特征加权，从而让模型更加注重有用的特征。在ResNet模型中，可以在残差模块中引入注意力机制，从而提高模型的注意力效率。在残差模块的卷积层后加入注意力层，对于每个批次的数据进行加权。优化后的残差模块结构可以表示为式（4）：y=F（Attention（Batch Norm（x），Wi）+x（4）式（4）中，x表示残差模块的输入，y表示残差模块的输出，F表示残差模块中的映射函数，Wi表示映射函数中的权重参数，Batch Norm表示BatchNormalization层，Attention表示注意力层。通过引入注意力机制，可以使得模型更加准确地学习到有用的特征，从而提高模型的效率和准确率。2.2.4改进后的ResNet模型的详细结构改进后的ResNet模型由多个优化的残差模块组成。在每个残差模块中，引入了11卷积层降低特征图的维度，增加了网络深度，并应用了注意力机制。改进后的ResNet模型结构如下：输入层：接收甘蔗病害图像作为输入；卷积层：对输入图像进行卷积操作，提取基本特征；BN层：防止神经网络训练过程中出现梯度消失和梯度爆炸的问题；激活函数层：使用ReLU激活函数增强非线性表达能力；池化层：进行最大池化操作，降低特征图的空间尺寸；优化残差模块：包括增加11卷积层、增加网络深度和引入注意力机制的残差模块，重复多次；全局平均池化层：对每个特征图进行全局平均池化操作，减少特征维度；全连接层：将特征映射到最终的分类空间；Softmax层：输出各类病害的概率分布。改进的ResNet模型在甘蔗病害识别中的应用步骤3.1 数据集构建及预处理3.1.1试验数据采集为开展甘蔗病害识别，需要采集自然环境下的甘蔗病害数据集。试验中甘蔗病害图像的采集地点位于广东省湛江市农垦国家现代农业示范区核心区的甘蔗大田。拍摄时手持高清移动设备（4 800万像素）距甘蔗病害叶片3050 cm处拍摄，拍摄角度包括正拍、俯拍和侧拍等，成像背景含有甘蔗枝干和土壤等，以保证病害数据的真实性。共采集到凤梨病、眼斑病、黄斑病、黑穗病和赤腐病等5种甘蔗病害图像4 000张，每种病害各有800张样本。3.1.2数据增强卷积神经网络需要足够的样本来学习图像特征，以提升对待测图像的识别效果。为提升网络的泛化能力，结合Python语言和OpenCV计算机视觉库对采集的病害图像进行增强，分别使用图像翻转、旋转、对比度增强和添加高斯噪声这4种方法从每种病害样本中随机选择一部分进行增强。增强结束后，共得到8 000张甘蔗病害图像，再将所有图像调整为统一尺寸（224224像素），以适应模型的输入要求。3.2 改进的ResNet模型在甘蔗病害识别中的应用网络模型的训练基于PyTorch深度学习框架，智慧农业-30-2023年第08期总第661期编程语言为Python3.8，GPU处理器为GeForce RTX 2070，CPU处理器为Intel（R）Core（TM）i7-10700K，CUDA 11.0版本，基于Windows操作系统。训练时输入图像的像素为224224，根据网络模型复杂度、数据集样本数量和GPU性能等因素设置样本批处理大小为32。3.2.1损失函数和优化器的选择损失函数：为了衡量模型的预测与真实标签之间的差异，选择了交叉熵损失函数（Cross Entropy Loss）作为损失函数。交叉熵损失函数在分类问题中具有良好的性能，能够有效地衡量模型的预测概率分布与真实概率分布之间的差异。优化器：选择了随机梯度下降（Stochastic Gradient Descent,SGD）优化器来优化模型的参数。SGD优化器在深度学习领域具有广泛的应用，并且可以有效地更新模型参数。设置了学习率衰减策略，初始学习率为0.1，每30个epoch衰减为原来的0.1倍。3.2.2试验设置根据甘蔗病害样本的数量，以71.51.5的比例将数据集随机划分为训练集（5 600张）、测试集（1 200张）和验证集（1 200张）。评估指标：采用准确率（Accuracy）、精确率（Precision）、召回率（Recall）和F1值（F1-score）作为评估指标，以全面衡量模型在甘蔗病害识别任务上的性能。训练参数设置：设置了200个epochs，每个epoch包含50个mini-batches，每个mini-batch包含32个样本。此外，采用了早停策略（Early Stopping）来避免模型过拟合。在验证集上的性能连续20个epoch没有提升时停止训练。3.3 与原始ResNet模型及其他病害识别方法的对比将改进后的ResNet模型与原始ResNet模型进行比较，发现随着迭代轮次的增加，2个模型的损失值均逐渐降低，但改进的ResNet模型的收敛速度更快。在训练集中，原始ResNet模型的损失值曲线在第70个迭代轮次后趋于平稳，而改进的ResNet模型的损失值曲线在第50个迭代轮次后趋于平稳。在验证集中，原始ResNet模型在第32个和第61个迭代轮次中损失值出现了小幅度波动，最终达到收敛时的损失值为0.90；而改进的ResNet模型在第20个迭代轮次后损失值变化幅度更为平缓，最终达到收敛后的损失值为0.41，低于原始ResNet模型，说明本研究提出的改进的ResNet模型具备更好的收敛性。与其他常见的病害识别方法进行对比，如VGG模型、Inception模型，发现改进后的ResNet模型在测试集上的准确率、召回率和F1值上均有显著提高。说明所提出的改进措施有效地提高了模型在甘蔗病害识别任务上的性能。表1为不同算法模型评估指标在甘蔗病害识别测试集上的对比。试验结果表明，改进后的ResNet模型在准确率、召回率和F1值上均取得了较高的水平，说明模型在甘蔗病害识别任务上具有较好的性能。结论本文针对甘蔗病害识别任务，提出了一种基于改进的ResNet模型的方法。对原始ResNet模型进行了多方面的优化，包括残差模块优化、增加模型深度以及引入注意力机制。通过详细的试验分析，改进后的ResNet模型在甘蔗病害识别任务上取得了较高的准确率、召回率和F1值；与原始ResNet模型以及其他病害识别方法相比，该方法具有显著的性能优势，训练过程中通过采用早停策略有效地避免了过拟合问题，使得改进后的ResNet模型具有较快的收敛速度。本方法已成功应用于广东省湛江农垦国家现代农业示范区核心区的甘蔗大田种植，为甘蔗病害识别提供了一种高效的解决方案，同时也为农业病害识别领域的深度学习应用提供了有价值的参考。表1不同算法模型在识别甘蔗病害测试集上的评估指标对比方法准确率（%）召回率（%）F1值（%）原始ResNet88.4988.1988.28VGG85.7385.1685.64Inception87.2186.5287.13改进的ResNet93.5393.1793.44（下转第38页）-38-2023年第08期总第661期感器可快速获取高质量的遥感数据。4.3 高光谱遥感发展与传统的多波段影像不同，高光谱影像波段范围可达10100个波段，即“谱像合一”，波段数量多、间距小，便于监测地表环境的微小改变，在监测重金属污染、农作物病虫害等方面有着巨大的发展前景。但目前我国的民用高光谱卫星遥感资源较少，多采用地面便携式高光谱成像仪或基于航空平台的高光谱成像仪获取资料，因此资料获取的成本高、范围小、难度大、实用价值低。4.4 微波遥感发展微波遥感是农业遥感应用的一个重要方面。在多云、多雨等气象条件较差的地区以及冰雪覆盖地区，微波可穿透这些障碍物，获取下垫面及具有一定深度的遥感数据，对我国南方多云多雨地区及北方冰雪覆盖区的农业监测具有重要意义。结束语我国国土面积较大、人口基数大，农业生产在国民经济中占据着举足轻重的地位。提高遥感技术在农业灾害监测中的应用是十分重要的，需了解遥感技术在农业生产中的重要性和必要性，利用遥感技术对当前的农业生产状况进行综合分析，以便更好地运用在农业生产中。参考文献1王萍.遥感技术在农业生产过程中的应用浅析J.农业与技术,2022,42(2):43-45.2程羲.遥感航测技术在农业土地测绘中的应用J.农业与技术,2021,41(11):65-68.3陈会明.无人机遥感技术在我国现代农业生产中的应用J.安徽农学通报,2021,27(11):131-132.4何光奇.遥感航测技术在农业土地测绘中的应用J.智慧农业导刊,2021,1(4):80-82+86.5闫庆伟.无人机遥感技术在农业生产领域中的应用J.智慧农业导刊,2021,1(4):22-24.6王爽.遥感技术在农业生产中的应用研究J.南方农机,2020,51(24):62-63.7郭良琴.浅析遥感技术在农业生产过程中的应用J.农业与技术,2020,40(5):44-45.8肖建东.遥感航测技术在农业土地测绘中的应用J.农村科学实验,2020(7):73-74.（编辑 张琼琼）参考文献1孙瑜,张永梅,武玉军.基于粒子群算法和支持向量机的黄花菜叶部病害识别J.中国农学通报,2022,38(8):135-140.2秦立峰,何东健,宋怀波.词袋特征PCA多子空间自适应融合的黄瓜病害识别J.农业工程学报,2018,34(8):200-205.3何前,郭峰林,方皓正,等.基于改进LeNet-5模型的玉米病害识别J.江苏农业科学,2022,50(20):35-41.4Tembhurne Vikram Jitendra,Diwan Tausif,Saxena Tarun.Identification of Plant Diseases Using Multi-Level Classification Deep ModelJ.International Journal of Ambient Computing and Intelligence(IJACI),2022,13(1).5Reddy Satti R.G.,Varma G.P.Saradhi,Davuluri Rajya Lakshmi.Resnet-based modified red deer optimization with DLCNN classifier for plant disease identification and classificationJ.Computers and Electrical Engineering,2023,105.6王泽钧,马凤英,张瑜,等.基于注意力机制和多尺度轻量型网络的农作物病害识别J.农业工程学报,2022,38(S1):176-183.7Kaiming He,Xiangyu Zhang,Shaoqing Ren,et al.Deep Residual Learning for Image RecognitionJ.CoRR,2015,abs/1512.03385.8杨双蝶.基于改进卷积神经网络的玉米叶片病害识别方法研究D.南昌:江西农业大学,2022.9冀常鹏,陈浩楠,代巍.基于GSNet的番茄叶面病害识别研究J.沈阳农业大学学报,2021,52(6):751-757.10于明,李若曦,阎刚,等.基于颜色掩膜网络和自注意力机制的叶片病害识别方法J.农业机械学报,2022,53(8):337-344.（编辑 张琼琼）（上接第30页）