基于Generalized...价函数及在图像分割中的应用_张凯.pdf

设计与应用计算机测量与控制 （）收稿日期：；修回日期：。作者简介：张凯（），男，山西运城人，硕士，主要从事先进信息处理与应用技术方向的研究。余义斌（），男，湖北京山人，博士，教授，主要从事现代信号处理与模式识别方向的研究。引用格式：张凯，余义斌基于 的代价函数及在图像分割中的应用计算机测量与控制，（）：文章编号：（）：中图分类号：文献标识码：基于 的代价函数及在图像分割中的应用张凯，余义斌（五邑大学 智能制造学部，广东 江门 ）摘要：针对图像分割中的困难样本，提出了一种对像素区域细分计算的 的新的代价函数；首先通过引入一项参数，改变了以往代价函数主要通过设置权重或 等关注困难样本的方法，其次通过对标签图像和预测图像进行区域划分，并且对划分四区域的困难样本分类关注，最后分别计算其四区域绝对损失，进而进行加权组合；为验证算法性能，使用 数据集作为实验数据，该代价函数在 和 两种图像分割网络上得到验证，同当前图像分割领域常用的 种代价函相比，指标分别提高 和 ，由此证明此代价函数优于大多数图像分割代价函数；最终实验结果表明，提出的基于像素区域细分计算的代价函数能够有效提高图像分割精度，为图像分割的研究提供借鉴。关键词：代价函数；图像分割；网络收敛；分割精度；困难样本 ，（，）：，；，；，；：；引言深度学习已经彻底改变了从软件到制造业的各个行业，奠定了语义分割深度模型的先驱，医学界也从深度学习中受益。在疾病分割方面有多种创新，使用 网络模型进行肿瘤分割，网络模型进行癌症检测等。图像分割是深度学习社区对医学领域的重要贡献之一，除了说明某些疾病的存在外，它还显示了疾病确切存在的位置，它极大地帮助创建了在各种类型的医学扫描中检测肿瘤、病变等的算法。在设计基于复杂图像分割的深度学习体系结构时，有许多可变的参数，包括代价函数、优化器、学习率等，都会影响模型最终的结果。而代价函数对深度学习中神经网络的训练有非常重要的作用，对于不同的分割任务使用合适的代价函数可以提高最终的分割精度，最终得到很好的分割效果。本文从代价函数的角度出发，针对解决分割中困难样本的问题，国内外学者提出了各种各样的代价函数。然而，在处理图像分割任务中困难样本的问题时，没有一种损失能够始终达到最佳性能。本文通过研究各类型代价函数的特性，总结背后的一般规律，最终构建一种通用关注困难样本的代价函数，例如脑、胰腺、肾脏等图像语义分割问题。图像分割代价函数的分类 图像分割代价函数按目的分类近几年，随着深度学习技术的快速发展，图像语义分投稿网址：计算机测量与控制第 卷 割算法的性能有明显的的提升。在图像分割方面，国内外学者提出了许多新的技术致力于提升其分割精度，主要包括对数据集的处理、网络模型的修改、代价函数的改进以及优化器的调整等方面。针对代价函数，国内外学者提出各种各样不同的代价函数用于提升分割效果，从最初的 ，到后来的 、（）、（）、（）、等，都是为了解决图像语义分割中某些问题而提出，主要包括类不平衡问题、关注分割中困难样本、关注分割边界等，以及一些复合代价函数 、（）等都是为了更好地解决这些问题。对于分割中类不平衡的问题来说旨在通过提升不频繁标签的重要性来缓解损失偏差，主要有两种常见的方法，其一是通过对标签频繁下采样来重新平衡类别的先验分布，然而这种方法限制了训练图像的信息；其二是通过类别与标签频率成反比的方法来设置权重，例如 、等，尽管该方法对某些分割中的不平衡问题有效，但对于不常见的那些像素区域使用交叉熵计算有时会加入一些噪声，并且使用大权重对其加权会放大该错误从而导致训练不稳定。对于分割中困难样本来说旨在提升损失对困难样本的关注度，同样主要有种常见的方法，其一是对单个像素进行加权，通过数字一减去预测像素概率值的方法加权损失，例如 等；其二是将计算好的损失整体加权，例如 等；其三是使用权重控制（）和（）之间的平衡，例如 、等。对于分割边界来说旨在提升损失对图像边界的关注度，例如 、（）、（）等，但本文认为图像标签多为人工标注，标注的标签边界区域或多或少都存在一些误差，如果对标签真值边界的关注度过分大于对标签真值内部的关注度，对于计算分辨率比较低的图像是不适合的。图像分割代价函数按类型分类图像分割的代价函数伴随着深度学习的发展，逐渐演化为种类型，即基于分布、基于区域、基于边界和基于复合的代价函数。基于分布的代价函数旨在最小化两个分布之间的差异，包括 、等，该类型代价函数是以交叉熵为基准进行变化，只关注标签图真值内部的损失，而对于真值之外的损失计算没有涉及。交叉熵的计算公式如式（）所示：（）基于区域的代价函数旨在最小化不匹配或最大化真实值和预测分割之间的重叠区域，包括 、等，该类型代价函数都是以 为基准进行变化，虽然对标签图真值内外的损失都进行了计算，但计算过于笼统，针对标签真值内部以及外部关于分类正确或错误的像素区域都没有进行精确区分。的计算公式如式（）所示：（）基于边界的代价函数 是一种相对较新的代价函数，旨在最小化真实值与预测分割之间的距离，包括 （）、（）等，该类型代价函数主要是通过距离图加权计算损失值，使用边界匹配度去监督网络的损失，而 使用真实值和分割的距离变换图加权损失，两者都容易导致损失值偏向距离边界近的区域，而对于标签真值内部的区域给予很少的关注。基于复合的代价函数是基于分布、区域和边界的代价函数之间的加权组合，包括 、（）等，该类型代价函数主要是为了解决单个代价函数不能很好的处理分割任务的问题，通常需要至少两种及两种以上的代价函数进行某种变换加权得到，但该种方法在实际应用中变得非常困难，需要用户必须对各类型代价函数都有精准的估计，然后从中选择适合处理某种任务的代价函数。为了解决以上的这些问题，本文提出了一种新的代价函数 ，该代价函数也是一种基于区域计算损失的代价函数，同以往基于区域的代价函数不同的是 致力于将图像损失区域进行精确地分类计算，使计算的损失结果更加符合该区域的实际损失值，更加有利于激发算法的学习过程，使计算结果更容易收敛。代价函数算法研究 （）函数本文提出了一种基于像素区域细分计算的 代价函数用于图像分割，其表达式如式（）所示：（）（）（）（）该代价函数主要是计算以下两部分区域的损失值：真值内部区域和真值外部区域，具体如图所示。真值内部区域主要包括预测和真值重合区域、预测和真值非重合区投稿网址：第期张凯，等：基于 的代价函数及在图像分割中的应用 域；真值外部区域主要包括预测和背景重合区域、预测和背景非重合区域。在式（）中，参数 ，控制代价函数第一项和第二项之间的平衡，在本函数中更加关注那些分类错误区域的损失，所以，此参数设置参照 而定，具体将其置为 ，、详细的计算方式在后边给出。图真值内部区域和真值外部区域其一针对预测和真值重合区域来说，即图当中的区域，在该区域中一般其预测概率已经达到了很大的值，说明该区域预测概率已经基本达到预测标准，但该部分仍就存在损失，需要通过公式 或者标签和预测差值的方法得到其损失。在此公式中使用的是 计算方法，因为在实验中发现使用此计算方法稍微优于另外一种，分析原因是 相比于另外一种计算方式对于那些困难样本的惩罚更加严重。该区域损失的计算如式（）所示：（）（）（）（）在式（）中，如果标签是像素的正确分类，则是二值指标；是对应的预测概率；是对在分类维度上求最大值的位置得到的结果；为惩罚参数；为防止分母为零而设置的极小的数字。（）是为了定位这部分区域的元素；就是常见的损失计算；（）代表了像素注意力机制，当接近时，系数（）会变得非常小，同样当取得越大时，（）会进一步变小，即简单样本对损失结果的影响非常小。反过来说，即困难样本在损失结果中所占比重越大，代价函数于更注重困难上，所以说这也相当于一种注意力机制。其二针对预测和背景重合区域来说，即图当中的区域，在该区域中一般其预测概率达到了很大的值，说明该区域预测概率同预测标准差异较大，所以本文希望该区域概率变得很小，更加接近，其单个像素点的预测概率值就是其单个像素点的损失。该区域损失的计算如式（）所示：（）（）（）（）（）（）（）在式（）中，（）是为了定位这部分区域的元素，是单个像素损失值，至于在公式后边又乘以（），同式（）中的（）是一样的原理，目的是使该区域代价函数的计算更加关注该区域的困难样本。其三针对预测和真值非重合区域来说，即图当中的区域，在该区域中一般其预测概率非常小，说明该区域预测概率同预测标准差异较大，所以本文希望该区域概率变得较大一些，更加接近，需要通过公式 或者标签和预测差值的方法得到单个像素损失值，具体计算本文是使用了 计算方法，同式（）中是一致的。该区域损失的计算如式（）所示：（）（）（）（）在式（）中，（）是为了定位这部分区域元素，（）同式（）中是一致的。其四针对预测和背景非重合区域来说，即图当中的区域，在该区域中一般其预测概率非常小，说明该区域预测概率同预测标准差异较小，但本文希望该区域概率变得更小，更加接近，其单个像素点的预测概率值就是其单个像素点的损失。该区域损失的计算如式（）所示：（）（）（）（）（）（）（）在式（）中，（）是为了定位这部分区域的元素，（）同式（）中是一致的。函数中采用 和（）对比 代价函数在公式中采用了 的计算方式，因为通过实验表明，使用 的计算方式得到的分割结果略微优于（）的分割效果。从图当中 的 以及图当中的 的对比实验都可以看出 的分割数据明显优于（），本文分析原因是 相比于（）对于图像分割中的那些困难样本的惩罚更加严重。函数中参数的确定通过对 代价函数的参数进行测试，从图当中的对比实验可以明显看出，当、时，该三条曲线增长趋势基本一致；从图的对比实验可以看出，当、时，该三条曲线增长方式同样基本一致。投稿网址：计算机测量与控制第 卷 图使用 网络结构训练时，代价函数使用 和（）对 的影响图使用 网络结构训练时，代价函数使用 和（）对 的影响图使用 网络结构训练时，代价函数置为不同参数对 的影响仔细观察图可以看到，的曲线会略微高于的曲线，但时公式的计算复杂度也同样高于的计算复杂度。当 、时，从图和图来看，该两条曲线的增长趋势过于缓慢，在网络训练过程中会消耗比较多的时间复杂度和空间复杂度，因此在本文不作考虑。所以综上所述当时，以及 图使用 网络结构训练时，代价函数置为不同参数对 的影响 效果提升都是比较明显的，因此在后续实验中 代价函数中的采用此参数。代价函数在图像分割中的应用 数据集描述 数据集是一种由剑桥大学公开发布的城市道路场景的数据集，同时它也是第一个具有目标类别语义标签的视频集合。该数据集包含了 多张精准标注的图片用于强监督学习，可分为训练集、验证集和测试集。同时，在 数据集中通常使用 种常用的类别来进行分割精度的评估。分别为：道路（）、交通标志（）、汽车（）、天 空（）、行 人 道（）、电 线 杆（）、围 墙（）、行 人（）、建 筑 物（）、自行车（）、树木（）。评估指标为了评估分割精度，本文使用了在图像分割中个常用的 评 估 指 标，主 要 包 括 有 （），（），精 确 率（）和召回率（）。、和 分别根据等式（）（）定义：（）（）（）（）数据集处理网络部署训练过程中，在 网络框架下，本文将 数据集原图和标签统一中心裁剪为 大小的图像，为的是可以一定程度上减少网络训练时间；并且采用了 ，的数据归一化处理，从而消除奇异样本产生异常数据导致的不良影响；优化器为 且初始学习率 置为，并且学习率伴随着训练次数的增加逐渐减小为之投稿网址：第期张凯，等：基于 的代价函数及在图像分割中的应用 前的 倍，减小周期为 轮。而在 网络框架下，为适应网络模型结构的输入和输出，本文将 数据集原图统一中心裁剪为 大小的图像，标签中心裁剪为 大小的图像，其它参数像数据归一化、优化器、学习率等同 训练时保持一致。本文实验环境为 操作系统，编程 语言 为 ，深度学习框架为 ，硬件环境 为 （）（）（内存），为 （显存）。实验结果与分析 使用 网络结构在图和图当中使用 网络结构进行测试实验，通过对用于图像分割的主流的 种代价函数进行测试，