基于异质图神经网络的电影推荐系统研究
这是一篇关于推荐系统,图神经网络,异质图,属性信息,时效意见的论文, 主要内容为随着互联网的快速发展,视频用户的不断增长,影视信息已经成为人们生活中不可缺少的信息媒介之一。如何通过推荐算法帮助用户挑选出其感兴趣的电影,受到了广泛的关注。当前,图神经网络被发现在图数据学习方面具有强大的功能,被应用于推荐研究工作。许多研究者将用户或项目的辅助信息集成到大规模网络建模中,形成包含各种信息的异质图网络。大多数算法都是基于元路径获取相似用户,并通过网络表征学习提取有效信息。但仍然存在如下几个问题:当前研究更关注用户与电影的交互信息,用户个体与属性群体间偏好影响关系建模不足;用户受不同方面偏好的影响不同,现有研究对于异质图中的多种关系融合不够个性化;现有异质图结构模型主要关注用户电影交互的行为,存在用户与电影交互建模不完整性问题。这些都对推荐系统的精度造成了影响。对此,本文展开了如下研究:1.针对用户与属性群体偏好影响关系建模不足问题。在基于属性信息的异质图神经网络推荐算法中将属性抽象为一类人群,通过图结构来表示用户与属性群体的关系。首先利用显式反馈信息计算用户属性群体间的相关度,区分不同属性群体对用户的影响,提取属性偏好。然后,通过注意力机制将异质图中不同关系下的偏好细粒度融合。最后使用内积的方式得到用户的电影推荐列表,并在真实电影数据集上验证了该方法能够有效地提升推荐性能。2.本文改进了一种结合用户意见的异质图神经网络推荐算法。主要针对用户和电影间的交互建模不完整性问题。首先根据时间戳分片构建多个交互子图,在各子图交互关系上对交互的时间、评分信息建模,构建交互的时效意见。然后通过注意力网络捕获不同时效意见下的交互协作信号,并利用图神经网络进行信息传播,将协作信号与时效意见充分结合。最后再将各个子图下的嵌入表示相融合得到完整的行为偏好表示。在真实数据集上验证了该改进模型对电影推荐的有效性。3.本文设计了基于异质图神经网络的电影推荐系统。在上述模型基础上,设计并实现了基于异质图神经网络的电影推荐系统。
异质图表示学习算法研究及应用
这是一篇关于异质图,图神经网络,图表示学习,元路径,离职预测的论文, 主要内容为现实生活中,很多事物都可以表示为包含多种类型节点和不同交互关系的异质图的形式,如推荐系统、知识图谱等。异质图表示学习方法旨在将其丰富的结构和语义信息映射到低维向量空间,进而将这些特征用于下游的节点分类、链接预测等任务。异质图神经网络模型作为一种结合了深度学习技术的表示学习方法,近年来受到学者的广泛关注,其关键在于如何挖掘并融合异质的结构、语义以及节点属性等信息。此外,现实网络往往具有高度动态性,如何捕获网络的时间敏感特征也成为研究的重点方向之一。本文通过对现有的异质图表示学习模型进行对比分析,并针对其不足提出了相应的解决方案,主要的研究内容包括以下两个方面:(1)在异质图神经网络模型方面,现有的研究往往基于同质邻居之间的信息传递,舍弃了异质邻居丰富的结构和属性信息,或者不加区分地对待同质和异质邻居节点,使得模型的表达能力不足。针对该问题,本文提出了一种基于元路径子图学习的异质图神经网络模型HMSG。具体而言,本文首先通过属性变换将异质节点多维度属性信息映射到相同维度的潜在向量空间;然后按照元路径的规则将异质图分解为多个同质子图和异质子图,每个子图含有其独特的结构和语义信息;接着分别对每个子图应用相应的消息聚合方法,这样不仅可以保留同质子图的结构和语义信息,还可以挖掘到更多的异质属性和结构信息;最终将每个节点在不同子图中的表征进行融合获得完整的特征向量。为了验证所提出模型的效果,本文分别在节点分类、节点聚类、链接预测等任务中使用多个数据集进行实验评估。实验结果显示,本文提出的异质图神经网络模型可以挖掘到更多的信息,与基线模型相比在各项指标中的性能均处于最优。(2)针对现实网络高度动态的特点,本文提出了一种动态二分图表示学习模型DBGE。首先,通过时序随机游走规则进行采样获得按照时序递增排列的节点序列集合,然后应用skip-gram模型获取每个节点的低维向量表示。本文将上述模型应用于员工离职预测问题,具体来说,先将员工的工作记录表示为动态二分图的形式,然后在该二分图上应用DBGE模型学习节点的低维特征表示,最后结合员工基本属性特征,并使用机器学习分类模型进行预测。本文通过对比只使用基本属性特征和结合表示学习特征两种情况下模型的预测效果,验证所提出的动态二分图表示学习模型对员工离职预测问题的有效性。同时利用多个数据集进行了链接预测和可视化实验,验证模型相对于基线模型的优势。
异质图表示学习算法研究及应用
这是一篇关于异质图,图神经网络,图表示学习,元路径,离职预测的论文, 主要内容为现实生活中,很多事物都可以表示为包含多种类型节点和不同交互关系的异质图的形式,如推荐系统、知识图谱等。异质图表示学习方法旨在将其丰富的结构和语义信息映射到低维向量空间,进而将这些特征用于下游的节点分类、链接预测等任务。异质图神经网络模型作为一种结合了深度学习技术的表示学习方法,近年来受到学者的广泛关注,其关键在于如何挖掘并融合异质的结构、语义以及节点属性等信息。此外,现实网络往往具有高度动态性,如何捕获网络的时间敏感特征也成为研究的重点方向之一。本文通过对现有的异质图表示学习模型进行对比分析,并针对其不足提出了相应的解决方案,主要的研究内容包括以下两个方面:(1)在异质图神经网络模型方面,现有的研究往往基于同质邻居之间的信息传递,舍弃了异质邻居丰富的结构和属性信息,或者不加区分地对待同质和异质邻居节点,使得模型的表达能力不足。针对该问题,本文提出了一种基于元路径子图学习的异质图神经网络模型HMSG。具体而言,本文首先通过属性变换将异质节点多维度属性信息映射到相同维度的潜在向量空间;然后按照元路径的规则将异质图分解为多个同质子图和异质子图,每个子图含有其独特的结构和语义信息;接着分别对每个子图应用相应的消息聚合方法,这样不仅可以保留同质子图的结构和语义信息,还可以挖掘到更多的异质属性和结构信息;最终将每个节点在不同子图中的表征进行融合获得完整的特征向量。为了验证所提出模型的效果,本文分别在节点分类、节点聚类、链接预测等任务中使用多个数据集进行实验评估。实验结果显示,本文提出的异质图神经网络模型可以挖掘到更多的信息,与基线模型相比在各项指标中的性能均处于最优。(2)针对现实网络高度动态的特点,本文提出了一种动态二分图表示学习模型DBGE。首先,通过时序随机游走规则进行采样获得按照时序递增排列的节点序列集合,然后应用skip-gram模型获取每个节点的低维向量表示。本文将上述模型应用于员工离职预测问题,具体来说,先将员工的工作记录表示为动态二分图的形式,然后在该二分图上应用DBGE模型学习节点的低维特征表示,最后结合员工基本属性特征,并使用机器学习分类模型进行预测。本文通过对比只使用基本属性特征和结合表示学习特征两种情况下模型的预测效果,验证所提出的动态二分图表示学习模型对员工离职预测问题的有效性。同时利用多个数据集进行了链接预测和可视化实验,验证模型相对于基线模型的优势。
基于异质图的推荐模型研究
这是一篇关于推荐系统,异质图,知识图谱,注意力机制,递归神经网络的论文, 主要内容为协同过滤推荐算法仅从用户与项目的历史交互数据中挖掘用户的偏好信息,其优点是计算简单,但存在数据稀疏性问题,即用户与项目交互数据中存在大量的零值或缺失值。当前的研究趋势是在推荐算法中引入辅助信息来解决上述问题,进而提升推荐性能。知识图谱是一种异质信息网络图,蕴含大量的关系语义信息,能弥补用户与项目交互数据的稀疏或缺失,因此可以作为辅助信息融合到推荐系统中。本文对基于异质图的推荐模型展开了研究,其主要工作和创新如下:针对传统协同过滤推荐算法存在的数据稀疏性问题,本文提出了一种基于知识图谱的邻居信息聚合推荐模型。一方面,该模型将用户的历史偏好和候选项目分别与知识图谱中的实体匹配,并作为中心节点,沿着不同的链接关系向外扩展至更多的邻居实体,采用图卷积网络聚合邻居信息以丰富用户和项目特征表示;另一方面,考虑到如果无差别地聚合所有邻居信息,易导致中心节点的特征信息缺乏表示能力,本文引入自注意力机制关注节点之间的链接关系,从而有偏重地聚合节点的邻居信息。本文在两个公开地数据集上对模型进行了实验验证,其结果表明,在点击率预测和Top-K推荐任务中,该模型与现有的推荐模型相比,推荐准确率有较大的提升。针对推荐系统中的数据稀疏性问题,本文提出了一种基于递归神经网络和知识图谱的推荐模型。考虑到现有的基于图嵌入的推荐模型忽略了用户与项目交互的重要性,以至于学习的嵌入表示不能有效地表达用户兴趣。本文首先使用改进的递归神经网络从用户的历史交互序列中提取用户局部兴趣特征和项目潜在特征,这样有利于获取真实的用户偏好;其次,为了将知识图谱中的实体信息传递至用户和项目原始特征中,本文提出了一个新的实体感知嵌入方法,直接将用户与历史项目之间的协作信息融合到实体中,从全局角度探索用户的兴趣特征;最后通过集成用户的局部兴趣特征和全局兴趣特征完成推荐任务。本文在两个真实数据集上进行实验,实验结果证明了该模型与现有的推荐模型对比,有更高的推荐准确率。
基于图注意力网络的嵌套命名实体识别研究与实现
这是一篇关于知识图谱,嵌套实体识别,同质图,异质图,注意力机制的论文, 主要内容为互联网技术的高速发展促进了信息的交流与传播,但是网络空间中大量非结构化的文本数据影响搜索和推理等互联网应用的效率和质量。基于知识图谱的搜索和推理技术能够有效提升互联网搜索的效率和性能,嵌套命名实体识别作为知识图谱中命名实体识别的子任务之一,主要作用是识别出嵌套在命名实体中的实体,能够有效地提升命名实体识别的质量,实现构建全面、正确、真实的知识图谱的目标。图神经网络在建模非结构化文本时能够充分获取文本序列上下文信息,在同质图神经网络中,主要存在的问题有边界检测困难、计算复杂度高和难以处理异质信息,而在异质图神经网络中,主要问题在于难以确定中心节点、约束邻居节点采样域。本文基于图神经网络提出了基于同质图注意力机制和基于异质图注意力机制的嵌套命名实体识别方法来解决图神经网络在嵌套实体识别任务中的问题。同时,本文实现了一个基于上述两种方法的嵌套实体识别系统,本系统也采用条件随机场和BERT模型进行训练和推理,并对比了四种模型的评估指标和推理时长,直观展示了本文所提出模型的实验结果和优越性能。+首先,本文提出一种基于同质图注意力机制的嵌套命名实体识别方法来解决英文文本序列分割、边界表示和嵌套实体识别等问题。该方法将文本序列中的单词与单词、单词与短语、单词短语上下文关系在同质图上进行注意力计算从而完成同质图中节点的编码工作,最后通过双向嵌套实体解码层逐层抽取文本序列中的嵌套实体,得到嵌套实体解码结果。基于同质图注意力机制的嵌套命名实体识别方法在处理异质信息方面存在天然的缺陷,同时每次计算均需加载全图到计算机中,故时空复杂度也较高。+第二,本文提出引入文本的词性信息的异质图注意力模型来解决嵌套实体识别问题。该方法首先通过文本的词性信息对文本进行异质图节点初始化,然后本文设计了基于词性路径的节点采样算法对当前节点进行邻居节点采样并结合注意力机制对当前节点进行更新,最后通过前文所述的双向嵌套实体解码层进行逐层的嵌套实体解码。在计算过程中,两种图注意力方法均采用负对数似然函数计算模型损失。该方法能够在异质图上进行非结构化文本的建模,同时在小图上进行中心节点采样和邻居节点的更新可以降低图计算的时空复杂度,而基于词性路径的节点采样算法可以有效解决异质图计算过程中存在的难以确定中心节点以及邻居节点采样域约束问题。第三,基于两种图注意力网络的研究内容,本文开发了一个面向生物学领域文本的嵌套命名实体识别系统。该系统能够对生物学领域的普通实体和嵌套实体进行抽取,提升知识图谱的质量,提升知识图谱中推理和搜索等任务的性能。同时,该系统也展示了所述模型的评估指标和运行时长,直观展示模型的运行结果。本文所提出的同质图注意力模型和异质图注意力模型在召回率和F1分数上相比同类型模型均有所提升,同时异质图注意力模型的时间复杂度也低于同类型方法。本文最终实现一个基于图注意力神经网络的嵌套命名实体识别系统,该系统主要包括基于同质图注意力机制的嵌套命名实体识别方法和基于异质图注意力机制的嵌套命名实体识别方法,该系统同时也展示了模型的评估指标和运行时间。最终结果显示,本文所设计的方法与系统能够有效地抽取生物学领域中的普通实体与嵌套实体。
图结构在推荐系统中的应用研究
这是一篇关于推荐系统,序列化推荐,跨域推荐,图神经网络,异质图,元路径的论文, 主要内容为互联网的不断发展使得人们可以在网络上获取到海量的各种形式的信息,极大地丰富和便利了人们的生活。但与此同时,过量的信息也使得人们在寻求自己需要和感兴趣的内容时消耗大量精力。推荐系统旨在为用户个性化地推荐他们所感兴趣的物品或信息,以缓解信息过载问题。推荐场景中用户和物品之间的交互行为可以构成丰富的图结构,这些图结构包含的信息可以进一步提升推荐系统的性能。其中在序列化推荐和跨域推荐两个场景上,图结构的应用存在天然的优势。序列化推荐旨在建模用户短期内的动态偏好,而非仅考虑用户较为长期静态的偏好。序列化推荐任务除了给定用户和目标物品,还给定由用户交互过的物品所构成的行为序列,通过对用户的历史行为序列的建模来学习到序列中的依赖关系以及序列中物品与目标物品间的匹配关系。现有的方法通过序列化建模的手段来构建起行为序列中的物品以及目标物品之间复杂的联系,进而从中挖掘出这些有联系的物品所体现出的匹配模式。然而,这些方法都没能显式地建模这些物品之间的高阶协同相似关系。这些高阶协同相似关系能体现出物品之间更加深入和复杂的联系,忽略了对这些关系的显式建模,将会导致物品之间的匹配模式有所缺失进而使得模型推荐的性能不够理想。跨域推荐旨在额外引入一个相关领域的知识与信息以缓解当前领域上的数据稀疏性问题。在跨域推荐中,将当前需要处理的领域称为目标领域,往往利用一个相关的源领域的交互来提升目标领域的效果,或者实现相互提升。传统的方法主要基于映射或者迁移的方式,而忽略了高阶信息的建模。近期,部分方法引入图神经网络来建模跨域的高阶信息,得到了较好的效果。但是,因为跨域推荐中,不同领域的物品是完全不同类型的节点,这样的异质性导致直接在图上进行聚合以捕获高阶信息时往往会得到一个杂糅且包含噪声的表示。而且,跨域推荐中不同领域间的用户偏好也有所差别,所以以同样的处理方式对待跨领域信息和领域内信息会进一步加重跨域推荐中的异质性问题。上述序列化推荐和跨域推荐中的问题,都是图结构在推荐系统中进行应用的重要问题,针对于这些问题,本文分别展开了研究,主要工作包括:对于序列化推荐任务,针对其缺乏高阶协同相似关系建模的问题,提出了基于图神经网络增强的序列化推荐模型。该模型首先基于用户的历史行为序列,将一定大小窗口内的物品连边得到物品关系图,图中包含了物品之间一定邻近时间范围内的高阶协同相似关系。之后,利用图注意力网络在物品关系图上进行聚合以捕获高阶信息,得到包含高阶信息的物品表示。再将包含丰富高阶信息的物品表示送入门控循环单元和序列注意力机制进行序列化建模,以学习到更加丰富的物品之间的依赖关系和匹配模式。对于跨域推荐任务,针对其建模图上的高阶信息时忽略节点间和领域间异质性的问题,提出基于元路径的跨域注意力网络。其首先将目标领域和源领域上的交互行为构建成一个联合交互图,该图是一个包含三种不同类型节点的异质图。之后,利用定义好的元路径来对基于元路径的邻居进行聚合以得到包含高阶信息的节点表示,且不受节点异质性问题的影响。这些元路径中包括领域内元路径和跨领域元路径,模型利用领域内元路径进行聚合,得到的表示再作为一个增强的查询向量去指导跨领域元路径的聚合,这样可以使得包含更多噪声的跨领域信息被进一步过滤。跨领域元路径聚合时,还需要对邻居表示进行额外的变换,进一步缓解领域间的异质性。本文围绕图结构在推荐系统中的应用进行展开,在序列化推荐和跨域推荐两个子任务上分别进行了针对性的改进并提出对应的模型结构。在两个任务上的充分实验和针对性的比较分析,分别证实了本文提出的模型的有效性。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设客栈 ，原文地址：https://bishedaima.com/lunwen/56313.html
