深度人工神经网络在地震反演中的应用进展_王竟仪.pdf

2023 年第 38 卷 第1期2023，38(1):0298-0320地球物理学进展Progress in Geophysicshttp:/wwwprogeophyscnISSN 1004-2903CN 11-2982/P王竟仪，王治国，陈宇民，等 2023 深度人工神经网络在地震反演中的应用进展 地球物理学进展，38(1):0298-0320，doi:10 6038/pg2023FF0467WANG JingYi，WANG ZhiGuo，CHEN YuMin，et al 2023 Deep artificial neural network in seismic inversion Progress in Geophysics(in Chinese)，38(1):0298-0320，doi:106038/pg2023FF0467深度人工神经网络在地震反演中的应用进展Deep artificial neural network in seismic inversion王竟仪1，王治国1*，陈宇民1，高静怀2WANG JingYi1，WANG ZhiGuo1*，CHEN YuMin1，GAO JingHuai2收稿日期2022-03-27;修回日期2022-08-19投稿网址http:/www progeophys cn基金项目国家自然科学基金面上项目(41974137)资助第一作者简介王竟仪，女，1995 年生，硕士，主要从事人工智能地震勘探研究 E-mail:wwangjinngy163 com*通讯作者王治国，男，1982 年生，教授，主要从事勘探地球物理研究 E-mail:emailwzg gmail com1 西安交通大学数学与统计学院，西安7100492 西安交通大学信息与通信工程学院，西安7100491 School of Mathematics and Statistics，Xian Jiaotong University，Xian 710049，China2 School of Information and Communication Engineering，Xian Jiaotong University，Xian 710049，China摘要人工神经网络是通过从大量训练数据中学习来拟合复杂非线性函数的有效方法，属于一种数据驱动的机器学习方法 人工神经网络应用于地震反演时可以得到更高分辨率和精度的结果，有着优于传统反演方法的泛化能力和非线性拟合能力 本文对人工神经网络的发展脉络进行了回顾，梳理了基于梯度的学习过程中代价函数的作用，反向传播学习算法的思路，激活函数的不同类型，以及万能近似定理等 特别是对热门的深度神经网络，按照时间先后顺序总结了带卷积核的 LeNet-5、AlexNet、VGGNet、GoogLeNet、esNet、UNet、自编码器和 GANs 等经典模型 在此基础上，本文分析了深度神经网络在反射系数和子波反演、速度反演、波阻抗反演和地震结构反演中不同网络的拓扑结构、学习算法、激活函数和训练样本等 最后，本文归纳和讨论了用于地震反演的有监督端到端学习网络的流程和关键影响因素等，展望了融入物理规律、基于反演目标函数展开的专用地震反演网络关键词人工神经网络;地震反演;代价函数;反向传播算法;激活函数中图分类号P631文献标识码Adoi:10 6038/pg2023FF0467AbstractArtificial NeuralNetwork(ANN)isaneffective method to fit complex nonlinear functions bylearning from a large amount of training data，which is adata-driven machine learning method When it is appliedto seismic inversion problems，the resolution and accuracyobtainedarehigherArtificialneuralnetworkhasgeneralization ability and nonlinear fitting ability superiorto conventional seismic inversion methods In this paper，the development of artificial neural networks are reviewedThe role of cost function in the gradient-based learningprocess，the idea of back propagation learning algorithm，the differenttypesofactivationfunctions，andtheuniversal approximation theorem are combed Especiallyfor popular deep neural networks，the classic models withconvolution kernels such as LeNet-5，AlexNet，VGGNet，GoogLeNet，esNet，UNet，autoencoder and GANs aresummarized in chronological orderOn this basis，thispaper analyzes the topology，learning algorithm，activationfunction and training samples of different networks inseismicwaveletandreflectivityinversion，velocityinversion，wave impedance inversion and seismic structureinversion of deep neural networkFinally，this papersummarizes and discusses the process and key influencingfactors of supervised end-to-end learning networks forseismic inversion，and looks forward to a dedicated seismicinversion network that incorporates physical laws andunfolds based on the inversion objective functionKeywordsArtificial Neural Network(ANN);Seismicinversion;Cost function;Back propagation algorithm;Activation function2023，38(1)王竟仪，等:深度人工神经网络在地震反演中的应用进展(www progeophys cn)0引言当前，人工智能(Artificial Intelligence，AI)的赋能正在持续改变油气勘探开发行业 在油气勘探开发中，大规模地震数据的处理解释技术与实际生产需求间还存在一定差距，需要一体化整合地质、地球物理和工程等跨域数据，发展先进的 AI 算法，优化AI 处理流程，从而不断提高数据的品质和挖掘数据的潜力(陈欢庆，2021)人工神经网络(ArtificialNeural Networks，ANN)作为人工智能的一个重要分支，已经成为了一种非常有效的数学分析工具(Sircar et al，2021)人工神经网络，尤其是近年来流行的深度神经网络(Deep Neural Network，DNN)，作为数据驱动的统计机器学习的一个子集，已经被广泛和成功地应用于油气地震反演领域为了揭示地下储层的岩性、结构和物性等，地震反演往往依赖于大量的地震、测井和岩心等异源数据，试图最优化的求解地震数据与储层参数间的非线性函数 人工神经网络可以通过从大量的样本数据中不断学习，进而拟合复杂非线性函数来实现地下储层特征反演，有着很强的非线性映射和泛化能力(林年添等，2018;Saikia et al，2020;Wang etal，2020)因此，人工神经网络非常适合处理充满不确定性和不完整性的地震、测井和岩心数据间的非线性反演问题人工 神 经 网 络 起 源 于 1943 年 Pitts 和McCulloch 参考人脑生物神经元的结构，发表了第一个抽象的神经元数学模型 M-P 模型 M-P 模型以单个神经元的形式进行数学描述，具有实现逻辑运算的功 xi能 此后于1949 年，Hebb 提出了神经网络学习的思想:模拟人脑神经细胞的突触(即连接)上强度可以变化这一特征(Morris，1999)据此，可以在计算机上采用调整权值的方法实现人工神经网络的机器学习 一个经典的简化人工神经网络包含三个层次的组成部分:输入层，隐藏层和输出层 如图 1 所示，红色部分是输入层，有 3 个神经元;蓝色部分是隐藏层，有 4 个神经元;绿色部分是输出层，有 2 个神经元人工神经网络的优势在于强大的学习和泛化能力 从单层神经网络到两层神经网络，再到多层神经网络，随着网络层数的增加及激活函数的调整，其非线性拟合能力不断增强 更强的计算性能，更大的数据量以及更优的训练方法都是人工神经网络发展的重要因素 人工神经网络具有强大预测能力的根本因素在于多层神经网络可以无限逼近真实的对应函数(万能近似定理)，从而模拟数据之间的真实关系 如同在地震反演中，深度神经网络方法也存在着多解性，学习后的结果可能不是完全正确，但可以得到一个与真实情况最为接近的结果(王昊等，2020)本文通过逐一回顾不同阶段的人工神经网络模型，尤其侧重深度神经网络模型，依次梳理在求解不同地震反演问题中不同研究者所采用人工神经网络的拓扑结构、激活函数和学习算法和训练样本等，从而清晰展现出众多神经网络的优缺点和应用效果本文的组织结构如下:第一节按照前馈神经网络、卷积神经网络、深度生成模型等对人工神经网络展开回顾;第二节讨论神经网络在地震数据反演问题中的方法流程和实际应用;第三节是对人工神经网络方法及其反演应用的总结与展望1人工神经网络方法人工神经网络是一种模仿生物神经网络结构的数学模型，由高度互联处理的神经元组合联结而成，已广泛用于各种计算任务，包括函数逼近、模式识别和特征学习等1.1M-P 模型人工神经网络最基本的单元是神经元模型 最经典、最早使用的神经元模型是 M-P 神经元模型(McCulloch and Pitts，1943)如图 2 所示，首先，神经元接收到许多来自前面其他神经元传递的输入信号，其次，这些信号之间通过带权重的连接进行传递，总输入与当前神经元阈值比较，最后通过激活函数处理产生输出图 2 中 xi是当前神经元的输入信号数据;wi是神经元间的连接权重，权重正负值模拟了生物神经元中突出的兴奋和抑制，大小则代表了突出的不同连接强度;表示阈值;g()表示激活函数;y 是当前神经元的输出 M-P 模型的数学表示为(Zhangand Zhou，2021):(y=gni=1wixi)(1)输入数据的线性组合经过激活函数处理后，变为非线性的网络输出 M-P 模型可理解为是神经网络的一个处理单元，是人工神经网络的基础 其中激活函数的作用是加入非线性因素从而增加网络模型的表达能力，常用的激活函数有如下几种:(1)Sigmoid 函数的数学定义为:992地球物理学进展www progeophys cn2023，38(1)图 1一个经典的简化人工神经网络的结构示意图(修改自 Meier et al，2007)Fig 1Artificial neural netw