基于跨会话知识图谱的图注意力网络推荐方法_张晓晖.pdf

第 49卷 第 2期2023年 2月Computer Engineering 计算机工程基于跨会话知识图谱的图注意力网络推荐方法张晓晖，马慧芳，王文涛，高子皓（西北师范大学 计算机科学与工程学院，兰州 730070）摘要：基于会话的推荐方法旨在根据匿名用户行为序列预测下一个项目。然而，现有会话推荐方法多基于当前会话建模用户偏好，忽略了会话间蕴含的语义信息及知识图谱中丰富的实体和关系信息，无法有效缓解数据稀疏性的问题。提出一种基于跨会话信息与知识图谱的图注意力网络推荐方法。通过有效整合跨会话信息和知识图谱中的项目知识构建跨会话知识图谱，利用知识感知的注意力机制计算各邻居节点的重要性分数，以更新项目节点表示，采用门控循环单元和图注意力网络将每个会话表示为该会话的当前偏好和全局偏好的组合。在此基础上，将会话嵌入和项目嵌入拼接后输入到多层感知机，得到目标会话和候选项目的预测分数，从而实现会话推荐。实验结果表明，与 GRU4REC、SR-GNN、FGNN 等方法相比，该方法在 KKBOX 和 JDATA 两个真实数据集上的推荐命中率分别至少提高了 8.23和 2.41个百分点，能有效增强会话推荐性能。关键词：会话推荐；跨会话；知识图谱；图注意力网络；门控循环单元开放科学（资源服务）标志码（OSID）：中文引用格式：张晓晖，马慧芳，王文涛，等.基于跨会话知识图谱的图注意力网络推荐方法 J.计算机工程，2023，49（2）：136-142，149.英文引用格式：ZHANG X H，MA H F，WANG W T.et al.Graph attention network recommendation method based on cross-session knowledge graph J.Computer Engineering，2023，49（2）：136-142，149.Graph Attention Network Recommendation Method Based on Cross-Session Knowledge GraphZHANG Xiaohui，MA Huifang，WANG Wentao，GAO Zihao（College of Computer Science and Engineering，Northwest Normal University，Lanzhou 730070，China）【Abstract】The Session-Based Recommendation（SBR）method aims to predict the next item according to the sequence of anonymous user behaviors.However，most existing session recommendation methods typically model user preferences based on the current session，ignoring the semantic information between sessions and the rich relationship and entity information in the knowledge graph，which cannot effectively alleviate the data sparsity problem.This paper presents a recommendation method for a graph attention network based on the cross-session information and knowledge graph.The cross-session knowledge graph is constructed by effectively integrating cross-session information and project knowledge in the knowledge graph.The importance score of each neighbor node is calculated based on the attention mechanism of knowledge perception to update the project node representation.Each session is represented as a combination of the current and global preferences of the session using the Gated Recurrent Unit（GRU）and the graph attention network.Next，session embedding and item embedding are spliced and input into the Multi-Layer Perceptron（MLP）to obtain the prediction scores of target sessions and candidate items to achieve session recommendation.The experimental results show that compared with GRU4REC，SR-GNN，FGNN and other methods，the recommended hit rate of the proposed method on KKBOX and JDATA real data sets has increased by 8.23 and 2.41 percentage points respectively，which can effectively enhance the performance of session recommendation.【Key words】session recommendation；cross-session；knowledge graph；graph attentive network；Gated Recurrent Unit（GRU）DOI：10.19678/j.issn.1000-3428.0063682基金项目：国家自然科学基金（61762078，61363058）；甘肃省自然科学基金（21JR7RA114）；西北师范大学青年教师科研能力提升计划（NWNU-LKQN2019-2）。作者简介：张晓晖（1994），女，硕士研究生，主研方向为序列推荐算法；马慧芳（通信作者），教授、博士；王文涛、高子皓，硕士研究生。收稿日期：2021-12-31 修回日期：2022-02-18 Email：人工智能与模式识别文章编号：1000-3428（2023）02-0136-07 文献标志码：A 中图分类号：TP391第 49卷 第 2期张晓晖，马慧芳，王文涛，等：基于跨会话知识图谱的图注意力网络推荐方法0概述近年来，基于会话的推荐（Session-Based Recommendation，SBR）方法受到学术界和工业界的广泛关注1-3。与传统的推荐算法不同，会话推荐侧重于根据用户当前正在进行的会话学习用户的最新偏好，以推荐下一个项目。因此，通过预测用户的最新偏好以推荐下一个项目是 SBR的核心任务。由于 SBR具有很高的实用价值，因此研究人员提出了许多推荐方法4-5。尽管这些方法取得了较好的推荐效果，但大多都仅基于当前会话建模用户偏好，忽略了跨会话信息和项目知识。而事实上，其他会话的交互数据和知识图谱中丰富的实体和关系信息有助于捕获项目之间的依赖关系、缓解数据稀疏问题等。马尔可夫链（Markov Chain，MC）是最早被用于会话推荐的模型，其依据会话序列中用户的前一个行为预测下一个行为，取得了较好的会话推荐效果6。然而，用户行为往往受多步依赖关系的影响，仅从相邻项目的转换中捕获信息，不足以建模用户感兴趣的演化过程。为了挖掘这种多步依赖的影响关系，研究人员提出基于循环神经网络（Recurrent Neural Network，RNN）的会话推荐方法7-8。其中，GRU4REC9利用多层门控循环单元（Gated Recurrent Unit，GRU）捕获完整的会话序列信息。NARM10在 RNN上利用注意力机制捕捉用户的序列行为特征，该方法将数据简单地视为时间序列，存在预测偏差的问题。因此，文献 11利用注意力网络来代替循环编码器，通过多层感知机（Multi-Layer Perceptron，MLP）和注意力网络来捕获用户的一般兴趣和当前兴趣。尽管该方法取得了一定进展，但采用的线性序列结构表达能力不强，难以表示与建模项目之间复杂的非序列依赖关系。近年来，图神经网络（Graph Neural Network，GNN）广泛应用在包括会话推荐在内的各种任务中12-14，在空间上建模项目之间的转换模式，有助于捕获项目间复杂的依赖关系15-16。其中，SR-GNN17 将 GNN应用到会话推荐任务中，并设计门控图神经网络（Gated Graph Neural Network，GGNN）模型来捕获复杂的项目转换关系。此外，文献 18 在 SR-GNN基础上，采用多层自注意力机制获得用户的长期兴趣。然而，以上方法仅基于当前会话来建模用户偏好，忽略了跨会话信息对当前会话重要性的影响。因此，文献 19 结合不同的会话信息设计一个广泛连接的会话图，并使用多头注意力机制学习每个项目的表示。尽管该方法考虑了其他会话的信息，但其忽略了知识图谱中的项目知识，并难以缓解数据稀疏和冷启动问题，具有次优推荐性能。针对以上问题，本文综合考虑跨会话信息、知识图谱中丰富的实体和关系信息，设计基于跨会话知识图谱的图注意力网络推荐方法ARCK。基于会话数据和知识图谱构建跨会话知识图谱，利用知识感知的注意力机制捕获跨会话的项目转换信息和知识图谱中的项目知识来更新项目节点表示，采用注意力网络和GRU模型建模目标用户的长、短期兴趣。在生成预测时，通过跨会话知识图谱获得语义信息更加丰富的项目嵌入，从而得到更精确的会话推荐结果。1准备知识1.1符号说明本文设S=s1,s2,s|S|为项目集合V=v1,v2,v|V|上的会话集合。第 t个匿名会话st=vt1,vt2,vtn S是按时间顺序排列的项目列表，其中vtj V为第 j个被点击的项目，n 为会话 st的长度。st可能包含重复的项目。为了缓解数据稀疏问题，ARCK 模型考虑关于项目的侧信息（如项目属性和外部知识）。这些侧信息由真实世界的实体和它们之间的关系组成。例如，一首歌可以由它的歌手、语言和流派来描述。本文以知识图谱的形式组织项目的侧信息，给定知识图谱GK=(h,r,t)|h,t E,r R，其中E表示所有的实体节点，R 表示所有节点的关系，每一个三元组都描述了从尾实体 t 到头实体 h 之间存在一类关系 r。例如，三元组（昨日重现，歌手，Carpenters）描述了Carpenters是歌曲 昨日重现 的歌手。此外，本文给定项目-实体对齐集A=(v,e)|vV,e，其中（v，e）表示项目 v可以与知识图谱中的实体 e对齐。1.2跨会话图构建本文给定跨会话图GC=(vi-1,transition,vi)|vi-1,vi V，其中，transition 表示 S 中任意的一个会话包含从项目 vi1到 vi的时间序列关系。当处理一个单独的会话st=vt1,vt2,vtn时，根据 st中的项目从跨会话图 GC中采样一个会话图Gst=(Vst,Est)，其中Vst包含 st中唯一的项目。如果 st中存在项目vti-1到项目vti的转换，那么边集Est包含边(vti-1,vti)Est(2 i n)。在会