基于专利数据的ATR技术融合关系预测研究.pdf

1 6 6 2 0 2 3年8期2 0 2 3年第4 5卷第8期基于专利数据的A T R技术融合关系预测研究何 蔚收稿时间:2 0 2 3-0 6-0 6作者简介:何蔚(1 9 9 8-),本科,研究方向为知识产权。(南京理工大学知识产权学院 南京2 1 0 0 9 4)摘 要 文中旨在实现A T R领域关键技术融合关系的发展趋势预测,并对基于机器学习的技术融合预测方法进行了改进,以提高预测精度。文中以全球A T R技术领域的专利数据为数据源,搭建了一种C NN与S VM相结合的深度学习模型来进行技术融合,预测未来趋势,并将C NN自动学习特征与S VM在非线性问题分类上的优势结合起来,预测到2 0 2 5年A T R技术领域将出现融合概率较高的技术类别。模型在预测实验中最高能达到9 0%精度,较之现有研究有所提高。另外,对行业发展情况进行了描述和分析,预测结果显示,等I P C对,在未来一段时间内出现技术融合的概率相对较高。关键词:技术融合;自动目标识别;深度学习;神经网络中图法分类号 T P 1 8R e s e a r c ho nA T RT e c h n o l o g yF u s i o nR e l a t i o n s h i pP r e d i c t i o nB a s e do nP a t e n tD a t aHE W e i(C o l l e g eo f I n t e l l e c t u a lP r o p e r t y,N a n j i n gU n i v e r s i t yo fS c i e n c ea n dT e c h n o l o g y,N a n j i n g2 1 0 0 9 4,C h i n a)A b s t r a c t T h ep u r p o s eo f t h i sp a p e r i s t or e a l i z e t h ed e v e l o p m e n t t r e n dp r e d i c t i o no f t h e f u s i o nr e l a t i o n s h i po fk e yt e c h-n o l o g i e s i nt h eA T Rf i e l d,a n dt o i m p r o v e t h e t e c h n o l o g yf u s i o np r e d i c t i o nm e t h o db a s e do nm a c h i n e l e a r n i n gt o i m p r o v et h ep r e d i c t i o na c c u r a c y.I nt h i sp a p e r,ad e e p l e a r n i n gm o d e l c o m b i n i n gC NNa n dS VMi sb u i l t t op e r f o r mt e c h n o l o g y f u-s i o na n dp r e d i c t f u t u r e t r e n d s.C o m b i n i n g t h e a u t o m a t i c l e a r n i n g f e a t u r e s o fC NNw i t h t h e a d v a n t a g e s o f S VMi nn o n l i n e a rp r o b l e mc l a s s i f i c a t i o n,i t i sp r e d i c t e dt h a tb y2 0 2 5,t h e r ew i l l b e t e c h n o l o g yc a t e g o r i e sw i t hh i g hf u s i o np r o b a b i l i t y i nt h eA T Rt e c h n o l o g yf i e l d.T h em o d e l c a na c h i e v eu p t o9 0%a c c u r a c y i np r e d i c t i o ne x p e r i m e n t s,w h i c h i s i m p r o v e dc o m p a r e dw i t he x i s t i n gr e s e a r c h.I na d d i t i o n,t h ed e v e l o p m e n to ft h ei n d u s t r yi sd e s c r i b e da n da n a l y z e d,a n dt h ef o r e c a s tr e s u l t ss h o wt h a t I P Cp a i r ss u c ha s,h a v ea r e l a t i v e l yh i g hp r o b a b i l i t yo f t e c h-n o l o g y i n t e g r a t i o n i nt h en e x tp e r i o do f t i m e.K e y w o r d s T e c h n o l o g yf u s i o n,A u t o m a t i c t a r g e t r e c o g n i t i o n,D e e p l e a r n i n g,N e u r a l n e t w o r k0 引言A T R技术旨在快速准确地完成图像处理,提取并分析其中的有用信息,其在矿产资源、海洋变迁、植被生长等领域的应用,可以有效提高勘测效率。目前,各国十分重视A T R技术,都在对其进行积极的探索,并有持续加大相应研究力度的趋势。技术融合是技术创新的主要源泉,也是新兴产业形成与发展的驱动力,同时还能对实际产业结构变革产生重大的影响1。因此,对A T R技术融合关系进行预测,可以进一步促进技术发展,拓宽该技术的应用领域,降低使用成本,创造更大的价值。1 研究方法本文从技术类别间的I P C对的角度出发,搭建了一个能挖掘专利之间融合关联的深度学习模型,提出了一种用C NN提取特征,用S VM代替C NN的全连接层进行决策的技术融合趋势预测方法,以预测可能提供技术融合机会的专利。为使指标体系能更加全面地表示技术在各方面的特点,选取专利技术特征、技术融合特征以及网络拓扑特征等3个维度,构建了特征指标体系。(1)专利技术特征专利技术特征综合考虑了A T R技术领域的专利数量、参考专利文献数量、非专利参考文献数量、被引用次数、专利族大小、专利申请时程、专利维持时间、专利诉讼2、I P C个数等因素。(2)网络拓扑特征网络拓扑特征包括节点的连出度Ko u t和连入度Ki n、接2 0 2 3年8期1 6 7 近中心性C以及中介中心性CB等3个指标。1)度中心性。度中心性是社会网络分析中刻画节点中心性的最直观指标,一个节点的节点度越大,表明该节点中心性越强,在网络中的重要性也越强。在有向网络中,节点度可以进一步划分为连入度 和 连 出 度,如 式(1)、式(2)所示:Ko u ti=nj=1ai j(1)Ki ni=nj=1aj i(2)2)接近中心性。接近中心性用于衡量节点在其连通分量中到其他各点的最短距离的平均值,以选出连通分量内各点的最近点。接近中心性算法可以定义为某点到能与其相连的各节点的最短距离的平均值的倒数,如式(3)所示:C(x)=k-1yd(x,y)(3)其中,x为待计算的节点,y为x所能达到的任意一个节点(沿出边或入边,或忽略边的方向;不包含x),d(x,y)为x到y的最短距离,k-1为y的个数。接近中心性的取值范围是0,1,数值越大,越靠近中心。3)中介中心性。中介中心性可以衡量网络中节点控制资源的流动程度。当节点对之间没有直接联系,但可以通过某个节点k产生间接联系时,节点k的中介中心性即指其处于节点对最短路径上的能力,最短路径则指节点i与j之间可以实现间接联系并经过的节点数最少的路径。节点k与节点对之间的间接联系是否存在的影响能力越强,其中介中心越大,如式(4)所示:CB(x)=iji j(x)i j/(k-1)(k-2)2(4)其中,x为待计算的节点,i、j为图中不同于x且互异的任意两节点,i,j配对不重复,为i,j间的所有最短路径的数量,(x)为这些最短路径中包含点x的路径的数量,(x)/为x对于i,j的中介概率(i,j不连通时为0),k为图中的节点数量,即(k-1)(k-2)/2为i,j节点对的数量。中介中心性的取值范围为0,1,数值越大,中介作用越强。(3)技术融合特征技术融合特征包括技术相关度和技术融合程度两个指标。1)技术相关度。I P Ci和I P Cj的前3位相同,第4位不同,则技术相关度C S=1;部相同、大类不同,即第1位相同,后3位不完全相同,则技术相关度C S=0.5;部不同,即第1位就不同,则C S=0。2)技术融合程度。根据B r e s c h i3等使用的技术关联关系测度方法4,用I P C对的技术关联度来表示技术融合程度,如式(5)所示:Si j=kn,m=1KFi,nKFj,mkn=1KF2i,nkm=1KF2j,m(5)其中,KF表示I P C对的知识流动数量,如KF1,2表示主I P C 4码为I P C2的专利引用主I P C 4码为I P C1的专利的次数;k代表网络中I P C对的数量,即技术融合的宽度;Si j代表节点i与节点j的关联度,取值越大代表这两项技术关联越紧密,如Si j的取值越接近于1,表示节点i与节点j的融合程度越高;Si j的取值越接近于0,则表示节点i与节点j融合程度越低。2 A T R技术领域实证2.1 数据来源及预处理本文基于I n c o p a t专利数据库,在全球范围内检索并筛选了A T R相关技术专利,构建检索式检索到的结果共有2 8 7 8件专利。为了避免同族专利自引现象导致引用网络出现冗余信息,对检索到的结果进行同族合并及去噪后,共有2 2 0 8个专利族,构成了研究的主要专利数据集。按照5年划分一个阶段,2 0 2 1年和2 0 2 2年单独作为一个阶段,因此共有6个阶段,分别是2 0 0 0年以前、2 0 0 1-2 0 0 5年、2 0 0 6-2 0 1 0年、2 0 1 1-2 0 1 5年、2 0 1 6-2 0 2 0年以及2 0 2 1-2 0 2 2年。之后,梳理每个阶段的专利引用关系,作为模型的输入数据源。2.2 模型构建本文建立的模型用到的C NN前3层是交替的卷积层和池化层,创建特征提取阶段。在第一卷积层中,使用了3 2个44的卷积核,每个特征矩阵对应一个在训练中学习到的局部空间特征。第二层平均池化层通过一个22区域的平均值,降低了一个I P C对的各项特征的精确位置的重要性,其他形式失真的敏感性也有所降低。第三层是卷积层,对前两层提取到的特征进行整合,整合了1 2 0个11的卷积核,得到1 2 0个只有一个元素的特征图。将该向量作为S VM的输入,用S VM来取代C NN的决策部分。核函数的选择标准目前还没有统一的定论,因此实验中选择了常用的两种变换核函数,分别以多项式函数P o l y和高斯径向基函数R B F来代替S o f t m a x,使其作为C NN模型的分类器,并对样本通过所有隐藏层后所得的特征进行分类。损失函数是训练集的均方误差(M S E),对该C NN网络使用自适应学习率优化算法(RM S p r o p),可以在训练过程中进一步更新学习率,以提高训练速度。2.3 实验结果及优化实验使用了P y t h o n深度学习框架K e r a s,并用T e n s o r-F l o w作为后端引擎来搭建神经网络模型。用精确度作为衡量模型性能的指标(测试集的正确分类率),其数值为完成一次迭代后,正确分类图像的个数与数据集总数的比值。相对应的是错误分类率,其数值为1与精度的差。为了提高模型的泛化能力,在数据集中预留一部分作为验证集,用验证集来评估模型,防止模型调整过程中出现信息泄露的情况,造成过拟合现象。根据每个时间阶段I P C对的情况,以1 0:1的比例划分训练集和验证集。C NN与S VM结合的模型训练效果良好,平均精确度达到了0.8 7,可见本文使用的改进方法对提高模型性能有移动信息1 6 8 2 0 2 3年8期较强的作用。第5阶段的模型训练精度突破了0.9 0,其训练精度和损失曲线如图1所示。图1 第5阶段C N N与S VM结合的模型精度和损失曲线2.4 预测结果分析用训练好 的 模 型 来 预 测2 0 2 0-2 0 2 5年 这 一 阶 段 的A T R技术融合趋势。将随机生成的I P C对输入模型,输出各I P C对可能出现的概率。I P C对出现的概率越高,该I P C对表征的两类技术越容易在该阶段产生技术融合。根据C NN与S VM结合模型的预测结果,选取发生概率排名前5 0的I P C对进行分析。发生概率排名前5 0的I P C对以发生概率为权重的社会网络如图2所示。图2 到2 0 2 5年可能产生技术融合的I P C对根据A T R技术在预测期间前两年(即2 0 2 1年和2 0 2 2年)已经产生技术融合的专利以及A T R技术的发展现状,对本文的预测结果进行分析。预测到2 0 2 5年,产生技术融合的重要技术可分为以下密切相关且有机衔接的3类。(1)数据信息类。指A T R系统在任务时空窗口内,使用探测器及数据链路获得目标数据的识别信息量这一过程中需要的技术,主要包括G 0 6 K,G 0 6 F,G 0 6 Q,G 0 1 L等。(2)信息认知类。指A T R系统从数据中有效提取信息并实现目标检测、定位、跟踪、识别与态势预测以及系统动态学习演进等过程中需要的技术,主要包括G 0 6 T,G 0 1 C,G 0 1 S,G 0 6 V,G 0 6 N等。(3)感知通信类。指A T R目标数据获取、传输与计算等基础技术所依赖并紧耦合的探测、通信与计算资源、运动平台 载 体 资 源 等 需 要 的 技 术,主 要 包 括G 1 1 B,G 1 6 B,G 1 6 H,H 0 4M,H 0 4 N等。现有融合的方向主要是数据信息类技术的内部融合、数据信息类技术与信息认知类技术的相互融合、感知通信类指向数据信息类技术和信息认知类技术的融合。未来一段时间内,除了继续保持现有融合情况外,感知通信类指向信息认知类和数据信息类的技术融合趋势更加明显。在具体技术类别上,可以分为以下几类。(1)数据 信 息 类 与 信 息 认 知 类 技 术 的 相 互 融 合,如、等。G 0 6 K,G 0 6 T等I P C 4是A T R技术中的关键领域,在技术发展过程中,这两类技术都以早期扩散知识为主,近年开始吸收其他技术领域的知识,且彼此产生了较为紧密的双向技术融合。预测到2 0 2 5年,其会继续保持深度融合,共同促进技术的发展。数据信息类与信息认知类技术的相互融合依托新一代人工智能深度学习理论与方法的不断迭代与进步,使得A T R技术开始突破小规模、低效率判读等瓶颈,在大规模图像识别、高维图像识别中使用了自动特征提取和分类等决策方法。(2)感知通信类指向信息认知类和数据信息类的技术融合,如、等。H 0 4类代表电通信技术,包括数字信号编码、解码、压缩、解压缩等方法或装置,其与G 0 6,G 0 8类的互补融合趋势,在提高A T R系统间各个模块连接的稳定性和效率上有所助益。感知通信类技术与信息认知类和数据信息类的技术融合有助于突破现有的以目标发现跟踪为目的,但不提供或仅提供很少精细化描述信息的系统设计模式,实现信息补充,优化A T R的使用体验。(3)数据信息类、信息认知类、感知通信类与应用型类技术的融合,如、等。数字化应用场景可以推进医学影像辅助判读、交通辅助设备、水利工程和数据表示或识别技术的融合,并促进其与基于特定计算模型的计算机系统技术进行融合,也可促进基于特定计算的计算机系统技术与图像数据处理技术之间的融合。三类A T R技术与医疗、交通等应用型技术的融合,有助于A T R扩展应用环境,进一步提升自学习、自组织、自生长的能力。(下转第1 7 4页)移动信息1 7 4 2 0 2 3年8期5.3 光线处理光线处理是体现场景真实性的重要一环。画面效果主要通过U n i t y 3 D引擎模拟的自然环境光照和材质物理属性渲染来实现,因此在调整光照色温和光线角度时,务必要考虑真实世界。例如,建筑所处区域的经纬度、现场云量和雾气、一天中不同时刻阳光的不同颜色等。校园场景在U n i-t y 3 D中的效果展示如图2所示。图2 校园场景在U n i t y 3 D中的效果展示5.4 色彩处理建筑漫游动画在还原现有景观色彩的真实性之上,还要进行特定的色彩情绪氛围渲染。可以根据主观审美对画面色调进行统一,以实现更加美观、更具情感的漫游场景,让游客沉浸其中。不同季节给人的色彩感觉也不尽相同,可以从这一点出发,完善场景色彩的感受性。5.5 摄像头运动U n i t y 3 D通过编写代码改变镜头运动的速度和节奏,来丰富、增 强 空 间 的 立 体 感 和 纵 深 感,增 强 影 片 的 表 现力3。视觉舒适且惊艳的镜头转场也是优秀漫游动画设计的一部分,可以巧妙切换场景,加深游览者对展馆的记忆。6 结语本文简要阐述了在U n i t y 3 D引擎中搭建虚拟现实场景的流程,讨论了将S k e t c hU p创建的建筑模型导入U n i t y 3 D场景的方法、人机交互和场景真实感的实现方式、营造艺术感的方法等内容。在未来的项目发展中,还可以应用U n i t y 3 D自带的功能实现酷炫的展示效果,实现元宇宙美术馆的营建。U n i-t y 3 D的功能强大,使用便捷。基于U n i t y 3 D的虚拟现实项目通过人机交互界面,可以控制人物在场景中漫游,同时融入真实感和巧妙的艺术性构思,以达到虚实相生的美好意境。参考文献1王银.基于U n i t y 3 D的V R艺术馆的设计与实现J.信息与电脑(理论版),2 0 1 9,3 1(1 7):5 4-5 6.2刘霞,李晓华.基于U n i t y 3 D的虚拟校园漫游系统J.科技视界,2 0 2 0(6):2 3 1-2 3 2.3张慧.建 筑 景 观 漫 游 动 画 设 计 研 究 D.青 岛:青 岛 大 学,2 0 1 8.(上接第1 6 8页)3 结语本文搭建了C NN与S VM相结合的深度学习模型,以进行技术融合趋势预测。在实验的4个阶段中,都得到了超过8 7%的精确度,较之现有研究成果有所提高。本文根据模型预测出的融合趋势关系,针对政府、企业和科研机构分别提出了相关的建议,以促进A T R技术和相关产业的进一步发展。(1)面向政府部门的相关政策建议制定针对相关产业的发展政策,并将具体领域的融合发展研究纳入政府部门资助的科研项目中,以吸引更多的研发资源投入前景融合领域的探索中。积极促进A T R技术“产学研用”一体化协同创新平台的构建,及时共享技术发展和市场需求等信息,为大众提供一个优质的集创意设计、研究开发和成果转化于一身的平台。积极参与并组织A T R技术相关企业和研究机构展开的潜在融合方向的探索活动,形成稳定且有效的产学研合作关系,实现各组织机构的协同发展与进步。(2)面向相关企业的发展建议调整研究重点和资源布局。结合自身专利技术的持有情况,对产生技术融合概率较高的医学影像辅助判读、交通辅助设备等方向进行探索。高效收集己在预测领域具有一定研究成果或具有雄厚研究背景的组织机构的信息,与其形成战略合作伙伴关系,共同展开前景融合领域的相关研究,积极参与到A T R技术的融合创新网络中。采取许可、转让等手段,影响潜在融合领域发展的专利或其他形式的技术,完善企业的技术创新战略布局,或收购在预测融合领域具有一定成绩的企业,在其基础上进行进一步的研究。(3)面向A T R技术相关研究机构的建议调整研究重心,聚焦于可解释性更强的A T R技术。目前,A T R技术融合多发生在同一领域内的技术之间,需要突破当前的技术瓶颈,进一步提高应用能力,着眼于领域内技术融合态势,更好地集中研究资源,将领域知识更好地嵌入推理过程,发展解释性更强、泛化性更好、鲁棒性更高A T R模型和技术。同时,可以积极寻求与其他互补研究机构的合作,因为机构的精力和知识范围总是有限的,而融合发展往往涉及多个技术领域,积极与相关研究领域中的能者建立合作关系,会大大提高成功率。另外,还可以与A T R技术企业建立合作关系,积极参与到产学研合作网络的构建过程之中。参考文献1苗红,李男,吴菲菲,等.基于机器学习的医学影像人工智能领域技术融合预测J.情报杂志,2 0 2 2,4 1(6):1 2 6-1 3 4.2刘 桂 锋.I n n o g r a p h y专 利 分 析 平 台 E B/O L.h t t p s:b l o g.s c i e n c e n e t.c n/b l o g-3 9 7 2 3-5 1 5 8 0 0.h t m l,2 0 1 1-1 2-7.3李树刚,刘颖,郑玲玲.基于专利挖掘的感知人工智能技术融合趋势分析J.科技进步与对策,2 0 1 9,3 6(2 3):2 8-3 5.移动信息