基于改进的Alexnet的服装识别及FPGA加速实现_王新宇.pdf

第 卷 第 期 年 月电 子 器 件 .项目来源：江苏省研究生实践创新计划项目（）；江苏省高等学校自然科学研究重大项目（）；国家自然科学基金项目（）；江苏省产学研合作项目（，）；江苏省高校自然科学研究面上项目（）；江苏省自然科学基金项目（）收稿日期：修改日期：，（，；，）：，：；：基于改进的 的服装识别及 加速实现王新宇，王媛媛，刘 晛，郭乃宏，周 锋，王如刚（盐城工学院信息工程学院，江苏 盐城；盐城雄鹰精密机械有限公司，江苏 盐城）摘 要：为了快速识别服装款式类型，针对现有的服装识别网络模型有所累赘以及速度响应仍然有待提升的问题，设计了一种改进的。采用小卷积核替换大卷积核的方式减少计算量并提升识别准确度，相比于原神经网络提升了 个百分点；然后通过对网络进行权重提取，最后在 进行网络搭建，通过 的高运算功能进行加速，在稍微减少改进的 准确度的情况下大幅度地提升了识别速度，相比于 平台提升了 倍。关键词：服装识别；卷积神经网络；高层次综合工具；中图分类号：文献标识码：文章编号：（）世纪起商务平台电子化，电商平台成为了主流商业平台，服装是最火的商品之一，对于服装识别能够有效地管理电商界面以及检索，如何能更准确更迅速地识别服装的类型是目前研究服装的热点。由于电商的服装图片数量庞大，服装的风格也越来越复杂，如果采人工来对这些图片进行分类，将消耗大量的人力物力，而通过机器来进行服装的识别，将节省大量的财力消耗。传统的服装分类方法主要是提取图像的颜色、纹理、边缘等特征，这些人工选取特征方法过程繁琐且分类精度较低。相比于传统的服装识别，卷积神经网络（，）是一种端对端的识别方式，相比于传统的识别有着很大的优势。是一种深度学习网络，能够准确地实现目标检测与目标类型的识别与检测。被广泛应用于计算机视觉、图像识别与处理等多个领域中。同样卷积神经网络也适合于服装识别。年胡聪等研究人员进行了基于自适应池化的神经网络服装图像识别，实验表明自适应池化方法可以扩展到其他神经网络中，小样本调优法对高效选取神经网络的超参数提供了依据。年高妍等人进行了基于改进 的服装图像识别分类算法研究，实验表明区域的全卷积网络在训练时间更短的情况下比原来的网络模型 平均准确率提高了大约 个百分点，达到。年陆建波等人设计了一种改进残差网络的服装图像识别模型，实验结果表明，所提出的网络模型在服装图像识第 期王新宇，王媛媛等：基于改进的 的服装识别及 加速实现 别分类精度上优于传统的深度残差网络。现有研究成果对服装识别进行了加速与准确度的提升，但是仍然有待提升，本文提出了一种改进的，采用小卷积核替换大卷积核的方法，减少计算的同时提高了特征的提取。然后通过对网络的特征参数进行提取，并在 上对网络进行搭建，将卷积与池化的计算放入 的 资源中进行计算，进行加速。基于改进的 模型 模型近年来深度学习成为机器学习的重要发展方向之一，人工神经网络是从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络。传统的神经网络对于简单的识别有着很好的精度，但是对于复杂度高的识别，传统的神经网络会产生巨量的计算，消耗资源很多。而卷积神经网络是对针对这一现象通过卷积操作与池化操作对计算量进行缩减，并且能更好地对识别对象进行特征提取，其中的共享性权重能够使得训练不会过拟合，也就是能对训练集外的数据集也能保持良好的识别。卷积神经网络首先通过卷积操作来对对象进行特征提取，而后通过池化操作来进行特征提取，并且能降低计算量与优化难度，最后通过全连接层对对象进行分类。其中权重的更新办法一般为梯度下降法，通过对误差函数进行梯度下降最后得到一个相对误差最小的值，完成训练。网络模型由 以及他的学生 所设计，并于 年的 竞赛中获得冠军，其物体分类错误率仅有，相比于传统的机器学习分类算法而言极其出色。该模型由十一层组成，分别为五个卷积层、三个池化层以及三个全连接层，其中图像特征信息的提取工作主要由卷积层和池化层完成，而全连接层的作用则是整合局部特征信息，将特征信息扁平化处理，传递 给 层继续完成分类任务。网络模型的结构如图 所示。第 个卷积层包含 个 大小的卷积核，第 个卷积层包含 个大小为 的卷积核。第、个卷积层分别包括 个 大小的卷积核，第 个卷积层具有 个 大小的卷积核等五个卷积层以及三个池化层和三个全连接层构成。后面的 个卷积层通过填充最外层来保持卷积后输出的尺寸不变。其中 相比于 引入 激活函数来加快训练的速度，它的作用为缓解了梯度消失的问题，增加了网络的稀疏性，缓解了过拟合，使得网络能更精准。图 网络结构图 改进的 模型原本的 网络模型输入为 的 图像，本文采取的数据集为 数据集，其大小为，因此采用小的卷积核来替换大的卷积核，的卷积核替换 的卷积核，替换 的卷积核，最后去除了 个全连接层，只保留了最后一个全连接层。其卷积操作的公式如下：()（）式中：为权重，为输出特征图，为输入特征图，为偏置，由公式可得，当 越多越复杂，网络的计算量也会增加。同维度下相比于原网络第一层卷积层的权重参数由 变为，减少了 个权重参数，同理得第二层减少了 个权重参数，第三层减少了 个权重参数，第四层减少了 个权重参数，第五层减少了 个权重参数。同时网络采用了交叉熵损失函数：图 改进 网络结构图 （）（）在对两个网络进行 次迭代，相比于改进前的网络，每次迭代时间由 ，降低到了 每次迭代。次迭代的准确率由 提高到了。这是因为小卷积核相比于大卷积核有更多的非线性，使得判断函数更具备判断性，并起到隐式正归化的作用。能更有效地提取数据集的特征。其网络模型如图 所示。电 子 器 件第 卷 模型实现 数据集本文采用的数据集为，这是一个替代 手写数字集的图像数据集。它是由（一家德国的时尚科技公司）旗下的研究部门提供。其涵盖了来自 种类别的共 万个不同商品的正面图片。的大小、格式和训练集 测试集划分与原始的 完全一致。不同于 手写数据集，数据集包含了 个类别的图像，分别是：（恤），（牛仔裤），（套衫），（裙子），（外套），（凉鞋），（衬衫），（运动鞋），（包），（短靴）。训练网络模型的搭建在 上实现，采用了 环境进行网络搭建，将 万张数据集分为 万的训练数据集和 万的测试数据集。通过 环 境 封 装 好 的 函 数 搭 建 好 改 进 的，每次喂入 个数据，循环训练 次。最后精准度为。权重的提取为了后面利用 来加速网络模型，本文对训练好网络的权重进行提取，将训练好每层权重以相对于的名称文件存储起来，这时所提取的权重为浮点型，由于 更适用于读取二进制数据，所以本文利用一段 语言将提取出来的权重转化为二进制数据文件。加速文本采用 公司的 开发板作为实验平台，该开发板搭载了 芯片，有着充足逻辑资源，并且该实验平台是基于 全可编程片上系统架构，适用于嵌入式开发。另外平台还配套了 卡口，来进行大量数据的存储。这类开发板相比于普通的 平台最大的区别是该开发板搭载了一颗双核 处理器，整体分为软件部分和 资源的硬件部分，分别简称为 端和 端。两者之间通过双片 与 总线控制来实现通讯，在软件开发的时候是通过 软件开发包（，）来实现的。这使得平台既能十分方便地通过在 端部署系统来对 的参数进行调整或者是发送相应的参数选择性地改变 的逻辑工作模式，也可利用 高效的运算能力来对运算进行加速，提高了整个系统运行的速度，同时保留了嵌入式平台体积小、功耗小、便于部署的优点。的实验在 上实现，而 搭载了高层次综合工具（）能将 语言的逻辑转换为硬件语言设计。本文将卷积操作和池化操作先通过 语言实现，然后通过高层次综合工具转化为相应的硬件语言设计生成 核导入到 电路设计中，通过 总线的方式使得 与 连接通讯。然后将设计好的电路导入到 中进行嵌入式开发，通过对 调用搭建改进的 的模型，再通过读取 卡将权重读入模型来实现整体的网络加速。图 模型设计流程图 实验与结果本实验首先采用 搭载 对神经网络搭建，首先对原始的 与 网络进行搭建对 数据集进行训练与识别。然后对 进行小卷积核取代大卷积核的优化。经过 次迭代后，采用相同的测试集进行精度对比，结果如表 所示。表 网络精度对比网络类型原本准确度 改进 通过 中的 进行嵌入式开发，首先通过对 中编写卷积操作与池化操作，通过调用 函数，读取出所用时间，通过上位机发送到电脑；再通过调用卷积 核与池化 核进行卷积与池化操作，同样通过上位机读取出运算时间。不同平台下卷积与池化运算的单次运算时间如表 所示。最后，调用 核搭建改进好的，然后采用相同的测试集对网络进行测试，得到硬件加速后的精度，如表 所示。结果表明，硬件加速后，与 软件相比精度相差不大。第 期王新宇，王媛媛等：基于改进的 的服装识别及 加速实现 表 单次运算不同平台运算速度对比单位：平台卷积运算时间池化运算时间 表 网络加速后精度变化平台改进 结语现如今的服装识别速度慢，识别准确度也有待提高，针对这些问题，本文提出以一种改进 的服装识别，采用小卷积核取代大卷积核的方式，提高了网络提取特征的能力，减少了计算量，提高了 个百分点的准确度。并采用 搭建了改进的，将网络的识别速度相比于 提高了 倍左右。相比于其他的识别方式提高了识别精度与识别速度，降低了功耗。参考文献：陆建波，谢小红，李文韬 一种改进残差网络的服装图像识别模型 计算机工程与应用，（）：，（）：，：，（）：胡聪，屈瑾瑾，许川佩，等 基于自适应池化的神经网络的服装图像识别 计算机应用，（）：高妍，王宝珠，郭志涛，等 改进 的服装图像识别分类算法研究 计算机工程与应用，（）：陆建波，谢小红，李文韬 一种改进残差网络的服装图像识别模型 计算机工程与应用，（）：，（）：，：，：高友文，周本君，胡晓飞 基于数据增强的卷积神经网络图像识别研究 计算机技术与发展，（）：，：张新伟，李康，郁龚健，等 基于 集群的神经形态计算加速研究与实现 计算机工程与应用，（）：周飞燕，金林鹏，董军 卷积神经网络研究综述 计算机学报，（）：赵天晖 基于深度学习的衣物识别及应用研究北京：北方工业大学，熊国强，徐渊，朱明程，等 一种基于 的嵌入式高尔夫球体花纹识别系统设计与实现 电子器件，（）：尹震宇，徐光远，张飞青，等 面向 平台的卷积神经网络单元设计与实现 小型微型计算机系统，（）：刘杰，葛一凡，田明，等 基于 的可重构卷积神经网络加速器 电子学报，（）：姜芃旭，傅洪亮，陶华伟，等 一种基于卷积神经网络特征表征的语音情感识别方法 电子器件，（）：刘世泽，秦艳君，王晨星，等 基于多尺度特征提取的交通模式识别算法 计算机应用，（）：王新宇（），女，江苏睢宁人，主要从事智能控制系统及其信号检测方面的研究；王媛媛（），女，辽宁瓦房店人，讲师，主要研究方向为通信技术、计算机视觉及图像处理等，。