时间和结构增强的多通道图神经网络会话推荐模型
这是一篇关于推荐系统,会话推荐,用户行为建模,图神经网络,全局注意力网络的论文, 主要内容为随着互联网的蓬勃发展,用户在日常使用电商平台或视频流平台时,无法避免的会面临信息过载问题。如何从海量数据中为用户推荐符合用户偏好的商品或视频成为推荐系统主要解决的问题。现目前推荐系统已经应用于各种各样的场景下。尽管推荐系统成为了解决信息过载的有效工具,但是在会话推荐(session-based recommender systems,SBRSs)场景下,由于其针对的是未登录或匿名用户(仅包含用户的短期行为记录),而无法获得用户的长期历史行为信息和用户侧信息。这使得仅依靠用户的短期行为记录的常规推荐系统无法满足用户需求。于是针对会话推荐的研究越来越受到学术界和工业界的关注。会话推荐旨在基于用户的短期行为记录来建模用户偏好以达到个性化推荐的目的。本文主要从时间角度和会话数据的稀疏性两方面对会话推荐任务开展了研究工作并进行了时间和结构增强的多通道图神经网络会话推荐模型课题的研究。该研究课题构建了两种会话推荐模型,并进行了大量实验对模型的有效性进行了验证。本文主要的研究内容如下:时间增强的图神经网络会话推荐模型。针对会话推荐任务,先前的研究工作主要集中在通过递归神经网络(RNN)捕捉连续项目之间的顺序转换或基于图神经网络(GNN)对非相邻项目之间的复杂转换进行建模。尽管这些工作在解决基于会话的推荐问题方面取得了令人鼓舞的成绩,但很少有人致力于探索过渡关系中用户兴趣转变相关的丰富信息,这是本文在这项工作中试图填补的研究差距。本文从时间角度提出了一种新的模型,称为时间增强的图神经网络会话推荐模型(Temporal Enhanced Graph Neural Network for Session-based Recommendation,TE-GNN),该模型能够捕捉会话中复杂的用户兴趣转移模式。TE-GNN构建了一个时间增强的会话图(Temporal Enhanced Session Graph,TES Graph),其根据用户兴趣漂移的程度自适应地生成项目之间的转换关系。此外,TE-GNN还设计了一种新颖的时间图卷积网络(Temporal Graph Convolutional Network,T-GCN)来学习项目的嵌入。最后,TEGNN通过引入一个时间兴趣注意力网络(Temporal Interest Attention Network,TIAN)来对具有共同用户兴趣的项目进行用户兴趣建模。本文在四个基准数据集上进行了广泛的实验,实验结果表明,本文提出的方法TE-GNN显著优于以前最先进的基准方法。动态全局结构增强的多通道图神经网络会话推荐模型。目前大多数会话推荐方法仅使用当前会话序列来建模用户的偏好,而忽略了来自全局角度丰富的信息。同时,目前较为先进的工作通常应用GNN来捕捉项目之间的转换关系,然而GNN中使用的图是通过静态模式构建的,如果用户的偏好发生变化,这可能会给图结构引入噪声。在本项工作中,本文提出了针对会话推荐的动态全局结构增强的多通道图神经网络(Dynamic Global Structure Enhanced Multi-channel Graph Neural Network,DGS-MGNN)。DGS-MGNN提出了一种新的GNN模型,称为多通道图神经网络(Multi-channel Graph Neural Network,MC-GNN)。MC-GNN可以动态生成局部图、全局图和共识图并基于相应的图学习项目的更多信息表示。同时,为了减少会话中的噪声信息,DGS-MGNN利用图结构来辅助注意力机制过滤会话中的有噪声信息,从而为用户生成准确的意图表示。最后,结合重复和探索模块来生成更准确的预测概率分布。本文在三个广泛使用的数据集上进行了广泛的实验,结果表明DGSMGNN始终优于最先进的基线模型。
基于图神经网络的方面级情感分析算法研究
这是一篇关于方面级情感分析,动态融合机制,预训练语言模型,图神经网络,依存句法树的论文, 主要内容为近年来随着移动互联网的快速发展,很多APP走进了大众的生活中,互联网上用户评论的内容出现了指数级的增长。用户在电商平台与社交媒体平台上发表的评论包含了大量的文本信息,从不同角度和方面反映了对某个商品或者某些事件表达的情感倾向。对于商家来说,分析商品的评论信息可以帮助商品更新迭代、改善服务。对于政府来说,分析互联网上事件的舆论信息可以帮助政府部门出台相关政策。篇章级情感分析和句子级情感分析可以分析一段文本整体的情感倾向,但是不能获得文本中不同方面实体的细粒度情感倾向,在现实生活中,这类情感往往具有更加丰富的信息,对下游任务更加有帮助。方面级情感分析作为情感分析的一项细粒度任务,旨在获取文本中各个方面的情感极性,具有极高的应用价值。它的子任务主要有方面级情感抽取和方面级情感分类。本文针对方面级情感分析主要做了如下工作:(1)对于方面级情感分类任务,近年来的相关工作主要使用图神经网络编码依存解析树上词之间的连接关系和标签依赖信息,但依存解析树是由外部解析器引导的,往往不够准确。针对该问题,本文提出了一种基于GAT和BERT的动态多通道融合机制(Dynamic Multi-channel Fusion mechanism based on GAT and BERT,DMF-GAT-BERT)。针对不同数据集的句子规范度的特点,该机制能自适应的调整语义和语法相关信息通道的融合权重。实验结果表明,动态融合机制使得模型充分考虑了语法和语义信息的互补性,尽可能的缓解了错误的依存解析树信息对模型的损害,使得模型效果优于大多数强基线模型。(2)对于方面级情感三元组抽取任务,本文设计了一种基于GCN和网格序列标注的动态多通道融合机制(Dynamic Multi-channel Fusion mechanism based on GCN and Grid Sequence Labeling,DMF-GCN-GSL)。首先该方法利用依存句法树的解析结果信息以及单词之间的距离信息构建了多种图神经网络的边矩阵信息通道,然后为了减少错误的依存解析树信息对模型的损害,使用了动态融合机制去融合边矩阵信息,最后使用网格序列标注的方法去解码情感三元组信息。另外,我们使用了Deberta作为我们的句子编码器,增强了模型的性能。在训练过程中,使用FGM(Fast Gradient Method)对抗训练去提升模型的泛化能力。实验证明我们模型的性能优于多个基线模型(GTS-BERT、BABTABSA、EMC-GCN)。
基于图神经网络分布式电影推荐系统的设计与实现
这是一篇关于图神经网络,推荐系统,Spark,分布式,Kubernetes的论文, 主要内容为随着大数据时代的来临,人们在纷乱庞杂的数据中越来越难以找到自己感兴趣的信息。推荐系统作为一种信息过滤的方式,不仅可以帮助用户缓解信息过载的问题,而且具有极高的商业价值。推荐系统通过分析用户信息、项目信息和用户交互信息来挖掘用户的深层爱好,从而将用户偏好的项目主动推荐给用户,因而推荐系统在各大电影网站上得到了广泛的应用。但是,目前的电影推荐系统存在推荐算法性能不足、推荐速度较慢、系统部署难、扩展难和运维难的问题。针对上述问题,本文做了下述工作:(1)针对电影推荐算法性能不足的问题,本文提出了一种基于图神经网络的个性化推荐算法(Mutiple Graph Neural Networks based Graph Matching,MGNNGM)。MGNNGM以实体属性为节点,以实体属性之间的交互为边构建图,并且按照实体属性交互的不同,将构建的图分为内部图和外部图。MGNNGM在内部图和外部图上分别运用图注意力网络(Graph attention network,GAT)和图卷积网络(Graph Convolutional Network,GCN)提取内部属性交互特征和交叉属性交互特征,并且运用门控循环单元(Gated Recurrent Unit,GRU)模型将同一属性的不同属性交互特征融合。MGNNGM将融合后的用户图和项目图进行图匹配,得到用户对项目的偏好评分信息。MGNNGM模型将不同的属性交互区别看待,并且用不同的图神经网络去提取不同的属性交互特征,从而取得了比Fi-GNN、0-SIGN等图神经网络更优异的推荐性能。但是,MGNNGM模型存在冷启动的问题。因而,本文将基于内容的推荐算法和热门推荐组合起来作为个性化推荐算法的补充来缓解冷启动的问题。(2)为了提高推荐速度、提升推荐系统的可用性,本文的推荐系统采取分布式架构。推荐系统后端服务部署在多个机器上,当流量到达网关后,网关对请求流量进行负载均衡。推荐系统后端服务的分布式部署提高了系统服务的吞吐量和系统的可用性。推荐系统基于Spark平台实现了分布式计算,提高了推荐速度。为了应对日益增长的电影数据存储需求,与后端服务交互的My SQL数据库和Redis均采取分布式集群的方式部署。My SQL集群和Redis集群在业务数据发生更改的时候可能产生数据不一致,本文应用基于重试保障机制的延迟双删策略保证My SQL和Redis之间的数据一致性。(3)针对系统部署难、扩展难和运维难的问题,本文推荐系统的前端服务、后端服务、Spark分布式计算框架、Redis缓存和My SQL数据库均容器化后部署在Kubernetes集群上,由Kubernetes统一调度。通过描述容器的状态,Kubernetes可以实现容器的动态化部署,简化了系统运维流程。本文使用Kubernetes管理容器资源,可以根据业务需求的动态变化实现弹性收缩。通过上述的工作内容,本文设计并实现了基于图神经网络的分布式电影推荐系统,不仅满足了用户的功能和非功能需求,而且在算法个性化、推荐速度、系统运维等问题上提出了有效的解决方案,对电影推荐系统的设计和研发具有一定的借鉴意义。
基于网络表示学习的推荐系统研究
这是一篇关于推荐系统,网络表示学习,知识图谱,图神经网络的论文, 主要内容为随着互联网的快速发展,我们面临的数据量呈指数级增长。用户面临严重的信息过载问题,难以短时间内从所有资源中找到所需要的内容。推荐系统的目的是根据用户的兴趣为用户提供个性化的推荐项目,来提高用户体验。然而,推荐系统还存在数据稀疏性问题和冷启动问题。网络是世界中常见的数据形式,相比文本数据具有更多的结构信息。知识图谱是一种特殊的异构网络,具有精准性、多样性和可解释性的优势,在推荐系统中作为辅助信息能够挖掘到更精确更高阶的信息,从而增强推荐模型的表达能力。因此,本文试图利用普通网络结构和知识图谱为推荐系统提供更充分的信息来增强表示,以此提升推荐系统的效果。本文提出将网络表示学习方法和知识图谱使用在推荐系统中,利用网络和知识图谱丰富的结构语义信息和高阶连通性,减轻推荐系统存在的数据稀疏性和冷启动问题。根据推荐不同场景的数据特征,本文分别利用普通网络结构和知识图谱形式来重构和补充数据,然后利用网络表示学习和知识图谱嵌入方法与推荐任务结合,挖掘更充分得节点特征。将普通网络表示学习的方法融入推荐系统,具有更大的普遍性和拓展性。将知识图谱嵌入的方法融入推荐系统,虽然需要构造知识图谱,但知识图谱的结构和语义优势,为推荐模型提供了高质量的节点特征,有效提高了推荐系统的用户体验。本文主要研究内容及研究贡献如下:(1)本文通过对推荐系统不同场景的数据进行分析,将用户项目交互数据构建为二部图,将项目属性信息构建为知识图谱。并且在此基础上对图进行改进,首先,将二部图与属性知识图谱进行实体对齐知识融合,得到一张包含用户项目交互信息和项目属性信息的连通图。其次,根据节点之间的相似性进行连边,根据项目之间的相似性进行连边,更好得刻画用户画像和项目特征,使得增强网络结构的高阶连通性。(2)本文提出基于类型感知的图卷积网络(Type-Aware GCN)推荐算法。本算法将网络结构引入了推荐系统,首先采用类型感知的邻居采样和聚合操作来学习特定类型的邻域表示。然后,利用注意力机制来区分不同节点类型的重要性。通过在公开数据集上进行实验,与7个基线推荐模型进行对比,验证了网络结构的引入和节点分类感知的方法可以提高推荐系统的性能。(3)本文提出基于多粒度聚合的知识图谱推荐算法(MAKR)。本算法提出了一种基于图神经网络的新型聚合器,综合考虑类型感知注意力、细粒度Transformer和粗粒度FM来对邻居信息进行聚合,从多粒度刻画了用户和项目表示。经过在三个公开数据集上的实验,验证了从多粒度进行聚合邻居信息能够提升推荐系统的性能。
基于图神经网络的多行为推荐系统研究
这是一篇关于电子商务推荐,图神经网络,多行为任务,特征表示学习的论文, 主要内容为大数据时代背景之下,信息资源越来越丰富,人们获取信息也更为便利,互联网的数字化与智能化也改变了人们的生产和生活方式。与此同时,互联网上的海量信息也引发了数据过载等问题。推荐系统作为解决信息过载问题的有效工具,面对各种各样的应用场景,也需要不断进行改进与创新。推荐系统广泛应用于人类生产生活的方方面面,传统推荐算法虽然已经取得一定研究进展,但在解决数据稀疏和冷启动等问题上仍然存在不足,而多行为推荐系统作为推荐系统的一个分支,因其数据的多样性及广泛的应用场景,逐渐成为研究热点。近年来,推荐系统的研究工作通常只利用单一隐式反馈数据作为优化目标。而多行为推荐系统引入多种用户行为作为辅助行为(如收藏、浏览等),解决了数据稀疏和冷启动问题,更具有实际意义。因此,通过探索多种行为模式的推荐系统对提高性能具有重要意义。以前许多针对多行为推荐的工作都未能捕捉到用户对异构图中不同项目的偏好强度。同时,它们也忽略了将用户不同偏好强度融入到用户-物品异构交互中的高阶关系。为了解决上述问题,我们提出了一种新的电子商务推荐多行为推荐模型——基于邻居注意机制的多行为推荐模型。另外,本文将进一步探索如何将用户不同偏好强度融入到用户-物品异构交互中的高阶关系,提出了基于高跳异质交互的多行为推荐模型。本文的主要研究内容和主要贡献如下:(1)提出了基于邻域注意机制的多行为推荐系统(Neighbor-aware Attention Heterogeneous network model,NAH)传统基于规则的传播权重计算方法考虑获取用户对不同商品的偏好强度,忽略了来自邻居节点的信息。为了更有效地学习用户对不同商品的偏好程度,我们利用注意力嵌入传播层,从节点的邻居特征表示传播,以递归的方式更新其表示,在学习传播权值时,根据不同项目的重要性权值,可以从相邻节点获得不同的贡献程度。并在此基础上,进一步探索了不同辅助行为对模型性能的影响及多行为推荐对解决用户稀疏问题的效果。本文在贝贝和淘宝两个真实数据集上进行了大量的实验,我们的模型在贝贝数据集上相比于现有最佳模型的平均提升分别为2.96%和1.51%,在淘宝数据集上的相比于现有最佳模型的平均提升分别为2.87%和1.46%,同时,实验结果表明对于冷启动用户的推荐任务非常有用,能够有效地提高了推荐性能。(2)提出了基于高跳异质交互的多行为推荐系统(High-hop heterogeneous interaction Recommender System,HARS)考虑到多行为传递架构下用户与物品之间的高阶关系传播,以往的工作缺乏在高跳图结构中对用户与物品异构交互的显式建模。本文利用行为感知传播层,将行为嵌入到节点嵌入中,使用组合方法将行为关系表示到节点表示中进行高阶传播,以用户-物品异构交互的高跳图结构实现高阶传播。通过探索高跳异构连接,可以充分利用节点信息,有助于在节点嵌入学习中捕获高阶关系。并在此基础上,进一步探索了模型的高阶性能。本文在贝贝和淘宝两个真实数据集上进行了大量的实验,我们的模型在贝贝数据集上相比于现有最佳模型的平均提升分别为2.76%和1.45%,在淘宝数据集上的相比于现有最佳模型的平均提升分别为2.68%和1.41%,实验结果表明,模型对于学习高阶节点信息有效,显著提高了推荐性能。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设海岸 ，原文地址：https://bishedaima.com/lunwen/46220.html
