基于注意力机制的污水微型动物识别方法_肖蕾.pdf

第 60 卷 第 2 期/2023 年 1 月/激光与光电子学进展0215002-1研究论文基于注意力机制的污水微型动物识别方法肖蕾*，蓝宗苗广东技术师范大学自动化学院，广东 广州 510665摘要 为了精准掌握污水处理系统活性污泥中微型动物的种类，及时调整污水处理工艺，针对传统机器学习需要人工设计特征、提取特征、设计分类器等复杂过程的弊端，提出一种基于注意力机制和迁移学习相结合的污水活性污泥中微型动物的深度学习识别方法。在迁移学习的基础上，通过对传统的 VGG16模型添加注意力模块（SE-Net block），调整输出模块，采用数据增强方法扩充数据集。实验结果表明：相比于改进前的模型，改进后的模型（T-SE-VGG16）能够准确识别不同类型污水活性污泥中的微型动物，测试准确率为 98.21%，提高了识别精度，缩短了训练时间，模型收敛速度快，泛化能力强。结果证实了 T-SE-VGG16模型对污水活性污泥中的微型动物识别的可行性和可靠性。关键词 深度学习；迁移学习；注意力机制；活性污泥；微型动物识别中图分类号 TP389 文献标志码 A DOI：10.3788/LOP212628Identification of Sewage Microorganisms Using Attention MechanismXiao Lei*,Lan ZongmiaoCollege of Automation,Guangdong Polytechnic Normal University,Guangzhou 510665,Guangdong,ChinaAbstract To accurately identify microorganism species in the activated sludge of sewage treatment systems and modify the wastewater treatment process in real-time,using traditional machine learning methods is a challenge because of various complicated processes.In this study,a deep learning approach based on the integration of attention mechanism and transfer learning is proposed to accurately identify the species of microorganisms in sewage-activated sludge by overcoming the requirements of developing features manually,extracting features,designing classifiers,and other complicated processes.On the basis of transfer learning,the conventional VGG16 model is enhanced by including the attention module(SE-Net block)and modifying the output module,and the dataset is expanded using the data improvement approach.Experimental findings demonstrate that compared with the model before the enhancement,the enhanced model(T-SE-VGG16)can accurately recognize microorganisms in various types of sewage-activated sludge with a test accuracy of 98.21%,which enhances the recognition accuracy and reduces the training time.The model converges rapidly and has a strong generalization ability in terms of training time.Moreover,the T-SE-VGG16 model s feasibility and reliability for the identification of microorganisms in sewage-activated sludge are verified.Key words deep learning;transfer learning;attention mechanism;activated sludge;micro-animal identification1引言活性污泥法是一种废水生物处理工艺，因具有成本低、处理效果好的优点，我国超过 80%的污水处理厂都使用了活性污泥法1-2。活性污泥中的微型动物（包括原、后生动物）的数量、活性、种类会随着工艺运行条件的变化出现明显的波动3。因此对污水处理系统活性污泥中的微型动物进行准确识别对于指导污水处理工艺具有重要的意义。传统的微生物识别方法是研究人员在显微镜下观察微生物，根据其形状进行识别，此方法的主观因素多，主要取决于研究人员的经验、工作量、情绪，效率低4。随着计算机技术的发展，机器学习技术被广泛地应用于微型动物图像分析任务。Ginoris 等5-6运用判别式分析、神经网络、决策树多变量统计技术对目标微生物的形态学参数进行分析来实现分类，该方法对非固着原生动物类群和后生动物类群均有较好的识别效果。刘俊7从水中微生物图像提取形态、纹理等特征后，使用遗传模拟退火算法优化，最后利用 BP 神经网络进行识别。陈瑶8从活性污泥中常见原后生动物收稿日期：2021-09-28；修回日期：2021-10-23；录用日期：2021-11-08；网络首发日期：2021-11-22基金项目：2021年度广东省普通高校重点研究领域专项（新一代信息技术）（2021ZDZX1033）通信作者：*0215002-2研究论文第 60 卷 第 2 期/2023 年 1 月/激光与光电子学进展图像提取特征后，采用决策树进行分类。这些方法都有着传统机器学习方法的局限性：需要人工提取图像的形状、纹理特征，再设计分类器进行识别，此过程繁琐且识别率不高。针对低对比度图像，Wang等9运用Canny 算 子 和 数 学 形 态 学 分 别 对 图 像 进 行 分 割，Wang10运用 Canny算子和迭代阈值对图像进行分割。两种方法均对分割后的两幅图像进行小波变换融合，融合图像能尽可能地保留原始图像信息，突出原始图像边缘，避免了过分割，都取得了较好的分割效果。近年来，深度学习在微生物图像分析任务中得到了广泛的研究和发展。Xu 等11提出了一种生成对抗网络增强框架（EF-GAN），该框架将几何变换方法和生成对抗网络相结合用于环境微生物图像增强，显著提 高 了 图 像 的 质 量 和 分 辨 率，使 用 VGG16 网 络 和ResNet50网络进行测试，分类精度均得到提高。Zhao等12使用多个卷积神经网络（CNN）和 visual transformer（VT）模型，对包含 21种环境微生物的小样本数据集进行分类，其中Xception模型在该数据集表现出了好的分类效果。Liang等13同样使用该数据集对环境微生物进行分类，使用数据增强技术扩充数据集，并使用遗传算法优化Inception-v3模型的全连接层神经元数量和丢弃率，改进后的 Inception-v3 模型获得了 92.9%的准确率。Kulwa等14提出了一种将手工特征和深度学习特征相结合的新的成对深度学习特征技术，来分析微生物图像。该技术使用 Shi和 Tomasi兴趣点，从以兴趣点位置为中心的 patch中提取深度学习特征；然后利用Delaunay三角定理和直线几何定理对邻近的深度学习特征进行配对；再将成对特征与原始特征相结合，形成每幅图像的联合成对特征；最后利用支持向量机、k-神经网络和随机森林分类器，验证了该技术的有效性。目前，国内外关于污水处理系统活性污泥中的微型动物识别的相关研究主要集中在传统机器学习方法，深度学习在其他领域微生物图像分析任务的成功给本文带来启示。卷积神经网络能自动实现特征提取，避免了人工设计特征、提取特征、设计分类器等复杂的过程，对描述微生物复杂的形态特征和结构具有更强的鲁棒性15。因此，本文将深度学习方法用于污水处理系统活性污泥中的微型动物的识别，选择了深度学习分类模型中的 VGG16 网络，在原模型的基础上添加注意力机制模块（SE-Net block）并修改输出模块，再结合迁移学习方法，最终获得了比原模型识别准确率更高、泛化能力更强的识别模型。2模型构建2.1数据集由于目前缺少标准可靠的污水微型生物图像数据集，本研究通过在污水处理厂采集水样，使用光学显微镜拍摄获得清晰的微型动物图像。由于所获得的图像包含冗余信息，对原始图像进行适当的裁剪，最后获得了包含轮虫（Rotifer）、游仆虫（Euplotes）、粗袋鞭虫（Peranema trichophonrum）、钟虫（Vorticella）、漫游虫（Litonotus）、线虫（Nematode）6 种类型的常见微型动物图像数据集，共有图片 634张，各类微型动物图像如图 1所示。深度学习模型的训练需要大量数据作为支撑。数据增强能在一定程度上弥补数据集样本过少的不足，可大大改善模型的泛化能力，降低网络出现过拟合现象的风险，提高鲁棒性16。本文获得的原始数据集为小样本数据集，通过对现有图片进行水平翻转、旋转90、旋转 180、增加适当的高斯噪声 4种数据增强方式扩充图片数量。以粗袋鞭虫为例，数据增强效果如图 2 所示。数据增强后的数据集共有图片 3170 张，分图 1微型动物图像。（a）轮虫；（b）游仆虫；（c）粗袋鞭虫；（d）钟虫；（e）漫游虫；（f）线虫Fig.1Images of micro-animals.(a)Rotifer;(b)Euplotes;(c)Peranema trichophonrum;(d)Vorticella;(e)Litonotus;(f)Nematode图 2数据增强效果。（a）原图；（b）水平翻转；（c）旋转 90；（d）旋转 180；（e）增加适当的高斯噪声Fig.2Data enhancement effect.(a)Original image;(b)flipping horizontally;(c)rotating 90;(d)rotating 180;(e)adding appropriate Gaussian noise0215002-3研究论文第 60 卷 第 2 期/2023 年 1 月/激光与光电子学进展别为轮虫 675张、游仆虫 600张、粗袋鞭虫 665张、钟虫480张、漫游虫 480张、线虫 270张。2.2注意力机制近几年，注意力机制被广泛地使用在深度学习任务中。注意力机制可以获取到输入特征矩阵各部分重要性的差异，从而赋予不同的权重，提取出更加关键和更有区分性的信息，使模型作出更加准确的判断。Squeeze-and-Excitation Network（SE-Net）17是由Momenta 公司胡杰团队提出的一个实现注意力机制的网络结构，赢得了 2017 年 ImageNet 竞赛图像分类任务的冠军。SE-Net 中的关键结构 SE-Net block 利用了注意力机制的思想，显式地建模特征通道之间的相互依赖关系，并通过学习的方式来自动获取到每个特征通道的重要性差异，然后依照这个