技术与应用Technology&Application传感器世界2022.12Vol.28NO.12Total33024摘要:针对景点推荐领域评论的情感信息未得到充分利用的现状,文章融合残差网络和双向长短期记忆网络提出了一种改进的BERT模型。深度学习模型BERT以无监督的学习方式,通过后续的任务来完成推理和判断,而在语义层面忽略特定领域知识。该文研究多头残差网络(Multi-headresidualnetwork,MRN),可以从多个层面上学习情绪特征,在补充领域知识的同时避免深度神经网络退化,利用BERT预训练模型提供语义特征,动态地将语句的情感嵌入到模型中,并将各层次模型输出的特征与双向长短期记忆网络的输出数据进行特征融合,得到最终的文本情感。该模型对比BERT预训练模型、BERT-BiLSTM模型、BiLSTM模型和卷积神经网络CNN的实验结果,最后得到的F1值和准确率都有显著提高。由此认为,BERT-MRN模型的情感极性分析能力有较好的提升,可以更好地分析景点评论的情感信息。关键词:情感分析;BERT;残差网络;双向长短期记忆网络中图分类号:TP391.1文献标识码:A文章编号:1006-883X(2022)12-0024-06收稿日期:2022-11-18基于改进BERT的景点评论情感分析刘宇泽叶青刘建平长沙理工大学电气与信息工程学院,长沙4101140前言随着社会经济和旅游业的发展,游客选择旅游景点时依赖于该景点的评论信息。评价信息既可以分析消费者的旅游感受,又可以影响其他潜在游客的景点选择,而如何有效地分析景点评论的情感成为了一项非常有意义的任务。情感分析是指通过分析用户形容某件事件的文本而确定用户对该事情的看法和评估。基于支持向量机、朴素贝叶斯、最大熵、K邻近等传统的机器学习方法都可以用来解决情感分析问题[1]。PANGB等人[2]采用朴素贝叶斯分类的方法来计算文本的情感极性。LID等人[3]研究了长短期记忆网络在文本情感分类任务中的效果。PENGHUAZ等人[4]通过结合BiGRU和注意力机制并将其应用于情感分类任务,获得了良好的分类结果。与以往的神经网络比较,预训练模型在许多NLP任务中都有较好的作用。ELMo[5]、Transformer[6]、基于转换器的双向编码表征BERT[7]等丰富的预训练模型接踵举出。堪志群等人[8]将BERT与BiLSTM结合,BERT模型采用了一种特殊的调整方案,可以在学习过程中不断地学习领域的知识,并通过神经网络的反馈对原有的模型进行参数的更正,在微博数据的观点分析方面获得了不错的成效。胡任远等人[9]提出了多层次语义协同模型,在不同数据集上验证了该模型的优越性。上述文...