忆阻器类脑神经突触的研究进展_陈心满.pdf

书书书华南师范大学学报(自然科学版)Journal of South China Normal University(Natural Science Edition)2022，54(6):115doi:106054/jjscnun2022079收稿日期:20220616华南师范大学学报(自然科学版)网址:http:journalnscnueducn基金项目:国家自然科学基金项目(61674059);广东省科技计划项目(2020B0101030008，2022A0505050066);广东省教育厅人工智能专项重点项目以及特色创新项目(2019KZDZX1010，2017KTSCX050);广东省高职院校产教融合创新平台项目(2020CJPT016)*通信作者:陈心满，Email:xmchenscnu 163com;史艳丽，Email:sylscau78 scaueducn忆阻器类脑神经突触的研究进展陈心满1*，钟智坚1，岳志秀1，朱俊2，高芳亮1，史艳丽3*，章勇1(1 华南师范大学半导体科学与技术学院，佛山 528225;2 中山火炬职业技术学院，中山 528436;3 华南农业大学图书馆，广州 510642)摘要:大脑之所以能够控制人和动物的复杂生命活动，使生物体在多变的自然环境得以生存，得益于大规模神经网络中高效、快速、精准的信息传递。神经突触作为神经元之间信息传递的重要机构，保证了神经网络的高效运转，因此构建具有神经突触功能的电子突触是研究仿生系统和类脑神经网络的必经之路。研究人员尝试各种电子元件对神经突触进行模拟，其中忆阻器由于其独特的器件结构和具有“记忆特性”的电学性能，成为构建类脑神经突触的最佳选择。文章全面概述近年来忆阻器模拟神经突触的研究进展，包括忆阻器模拟神经突触的可塑性、再可塑性、非联想学习、联想学习等功能，总结了忆阻器神经突触在人工神经网络中的应用、存在的问题和挑战，并对忆阻器神经突触的研究进行展望。关键词:忆阻器;神经突触;可塑性;神经网络中图分类号:O469;O59文献标志码:A文章编号:10005463(2022)06000115esearch Progress of Memristorbased Neuromorphic SynapsesCHEN Xinman1*，ZHONG Zhijian1，YUE Zhixiu1，ZHU Jun2，GAO Fangliang1，SHI Yanli3*，ZHANG Yong1(1 College of Semiconductor Science and Technology，South China Normal University，Foshan 528225，China;2 Zhongshan Torch Technical and Vocational College，Zhongshan 528436，China;3 Library of South China Agricultural University，Guangzhou 510642，China)Abstract:The efficient，fast and accurate information transmission in the largescale neural network in the brain isthe exact origin that the brain can control the complex life activities of humans and animals and enable organisms tosurvive in the changeable natural environment As an important medium for information transmission between neu-rons，the synapses ensure the efficient operation of neural networks Therefore，to build electronic synapses withsynaptic functions is one essential way to study bionic systems and brainlike neural networks esearchers havepreviously tried to simulate synaptic functions with various electronic devices，among which memristor has becomeone good candidate to build neuromorphic synapses due to its unique device structure and memory characteristicsThe researches of memristorbased synapses in recent years are comprehensively summarized in this article，inclu-ding the synaptic plasticity，metaplasticity，nonassociative learning，associative learning and other functions It al-so summarizes the application，problems and challenges in artificial neural networks，as well as the research pros-pects of memristorbased synapsesKeywords:memristor;synapse;plasticity;neural network随着智能时代对大规模数据处理要求不断提高，基于 Von Neumann 架构的计算机正面临着严峻的挑战。例如，Google Brain 团队利用上万个通用处理器建立了人工神经网络并应用于面部识别、国际象棋等场景;基于深度学习算法的 AlphaGo 机器人需要在上千个通用处理器和数百个图形处理器的帮助下才能玩一局围棋，耗费巨大。无人驾驶、深度学习和智能机器人等智能技术是人类科学技术发展的重要方向，但基于传统通用处理器的实现方案无疑会增加成本并限制性能。因此，构建新一代低成本、高效率、低功耗的人工神经网络是智能技术的重要步骤。人脑中存在约 1 000 亿个神经元，神经元通过神经突触连接共同构成复杂但高效、低功耗的神经网络，维持人的正常生命活动。像人脑一样能够对信息进行学习、记忆和灵活处理的智能计算机是未来计算机发展的方向和目标。神经形态网络就是一种受人脑启发提出的类脑计算系统。由于生物体神经突触是完成大脑神经元信息传递和协调的基本单元，也是生物神经网络进行学习、记忆、感知等复杂生命活动的重要基础结构，其中突触可塑性(Syn-aptic plasticity)是神经细胞学习、记忆功能的前提14。因此，基于电子器件实现类脑突触功能是构造大规模人工神经形态网络首先需要解决的问题。电子类脑神经突触，主要是依据器件导电状态在物理信号刺激下的变化来模拟突触权重的改变。利用 CMOS、晶体管、电阻、电容等传统基本元件，配合数模转换、模数转换等复杂电路系统模拟突触功能亦有报道57，但除了功能器件，往往需要复杂的电路系统和其他元件的配合，导致系统复杂，功耗高，与超低功耗的生物神经网络系统相悖。忆阻器是一种新型电子器件，被认为是继电阻、电容、电感后的第四种电子元件，相关理论由蔡少棠于 1971 年首次提出8，并于 2008 年由惠普公司首次成功制备9。由于忆阻器具有可高密度集成、低功耗且高速开关等优点，可以与传统的 CMOS 工艺兼容，已被广泛应用于数据存储、逻辑运算等领域。同时因为忆阻器具有精确可调的电导，被认为是模拟神经突触的最佳选择。本文在比较忆阻器和神经突触相似性的基础上，就近些年基于忆阻器在类脑神经突触应用方面的研究进展进行简要综述。1忆阻器和生物神经突触的相似性忆阻器是具有“三明治”结构的两端器件，跟生物突触的“突触前膜突触间隙突触后膜”相似(图1)。忆阻器具有非易失性，有“记忆”功能，其电阻或电导的变化取决于施加于器件的信号，即忆阻器的阻态与施加于器件的电激励历史有关，这与生物神经突触的特征高度相似12。从忆阻器阻变特性的机理来看，其阻态变化主要基于介质内部离子(如氧空位、活性金属离子等)在外部电激励的作用下产生迁移所导致。这种离子迁移过程与生物神经突触信号传输过程中的 K+、Ca2+等离子迁移类似。表 1 比较了忆阻器和生物突触在结构、性质等方面的差异。另外，忆阻器简单的器件结构、纳米级的介质层以及忆阻器与 CMOS 工艺的兼容性，使得构建类脑大规模集成电路成为可能。目前，忆阻器是构建电子神经突触的最佳方案13。图 1忆阻器与生物神经突触的比较2 Figure 1The comparison diagram of memristor and biologicalnerve synapse2 表 1忆阻器与生物神经突触的比较Table 1The comparison diagram of memristor and biologicalnerve synapse忆阻器神经突触结构顶电极阻变层底电极 突触前膜间隙后膜性质非易失性(阻态依赖特性)可塑性工作原理离子迁移神经递质迁移主要参数电导突触权重2基于忆阻器类脑突触可塑性的模拟突触可塑性(Synaptic Plasticity)是神经突触的基本属性，是指在神经刺激信号作用下，突触的形态和功能发生一定的改变，且可以维持一段时间的特性。这是大脑神经系统实现学习、记忆和维持其他生命功能的重要基础。突触的可塑性可以通过“突触权重”(Synaptic Weight)进行衡量，以反映神经元之间的连接强度4。因此，神经突触具有可塑性，是指突触权重根据突触前后神经元的活动发生改变。根据神经刺激信号作用下突触权重的变化，突触可塑性表现为多种形式。权重变化的时间长和短2华 南 师 范 大 学 学 报(自 然 科 学 版)第 54 卷分别对应于生物系统中的长时记忆和短时记忆，因此可塑性主要可分为长时程可塑性(Long TermPlasticity，LTP)和短时程可塑性(ShortTerm Plastic-ity，STP)。以上 2 种可塑性都具有兴奋(Potentia-tion)和抑制(Depression)可塑性类型，分别对应于长时程增强(LongTerm Potentiation，LTP)和长时程抑制(Long Term Depression，LTD)、双脉冲易化(Paired Pulse Facilitation，PPF)和 双 脉 冲 抑 制(PairedPulse Depression，PPD)。神经刺激信号多为脉冲形式，根据突触前后神经信号脉冲到达时间及脉冲速率产生的可塑性，分别称为放电时间依赖可 塑 性(Spiking Timing Dependent Plasticity，STDP)和放电速率依赖可塑性(SpikingateDe-pendent Plasticity，SDP)等。当然，除了基本的可塑性功能，神经突触也具有高级学习功能，如:非联想学习(Nonassociative Learning)、联想学习(Associ-ative Learning)。大脑正是通过结构复杂的神经元和突触神经网络系统，调节神经突触可塑性以适应外界刺激，从而控制生命活动。21STP 的模拟神经突触 STP 指短暂性的突触权重变化，对神经系统的瞬时记忆和短时程适应具有重要作用。STP 的形式多样，现有的文献中主要研究 PPF 和PPD 这 2 个重要的学习规则，对应突触权重的增强和抑制1012。在 PPF 规