基于子图推理的知识图谱关系预测方法研究
这是一篇关于知识图谱推理,关系预测,子图构建,子图推理,图神经网络的论文, 主要内容为知识图谱作为一种结构化的语义表现形式,可以对现实世界中的实体、概念、属性以及它们之间的关系进行建模。知识图谱推理旨在从现有数据中通过知识推理,推导出实体之间的新关系。知识图谱推理对许多下游任务有着非常关键的作用,包括问答系统、推荐系统、搜索引擎等。鉴于知识图谱广阔的应用前景,对大规模知识图谱的知识推理研究成为近年来自然语言处理领域的一个研究热点。当前的许多研究工作主要将实体与关系映射到某个向量空间中,或者对实体之间的路径进行搜索来解决关系推理问题。这些方法虽然可以获取知识图谱中的关系特征,但都只考虑了单一路径或一阶相邻信息对关系推理的影响,忽视了广泛存在于实体之间的更复杂和高阶的相互关系,无法综合利用多条路径的丰富信息,对实体之间关系特征的捕获并不全面。针对上述问题,本文充分考虑多条路径包含的丰富信息,提出了一种新颖的基于子图的知识图谱关系推理方法Sub GLP(Sub Graph Link Prediction)。通过将多条路径构建成一个子图,然后使用子图推理来预测实体之间的关系,不仅可以带来推理能力的提升,还能缓解路径推理的误差累积问题,提高关系推理的可解释性,进而完成稳定高效的关系推理。模型首先将实体对之间的路径扩展为子图,然后结合图嵌入表示与图神经网络计算子图的高阶特征,最后从子图高阶特征中获取实体对的邻域结构信息,从而实现实体之间的关系预测。随后,针对Sub GLP存在的节点子图关系子图关联度不足的问题,将节点子图和边子图的学习从并行变为串行。在Sub GLP的基础上,提出了基于分层子图的知识图谱关系推理方法HSub GLP(Hierarchical Sub Graph Link Prediction),并在融合预测模块中加入注意力层,辅助进行实体对之间的关系预测。使用两个常用的知识图谱推理基准数据集进行了大量实验。实验结果表明,本文提出的Sub GLP模型优于现有的基准方法,而改进后的HSub GLP在关系推理的准确度方面有了进一步的提升,总体实验结果验证了本文提出的基于子图推理的知识图谱关系预测方法的有效性。
网络空间安全知识图谱的推理及推荐研究
这是一篇关于本体,网络空间安全,知识图谱,知识图谱推理,知识图谱推荐系统的论文, 主要内容为互联网的兴起在推动社会发展的同时也为网络空间的安全带来了风险和挑战,为了应对这个问题,社会亟需网络空间安全领域的人才,但由于网络空间安全问题的复杂性使得普通的开发者和学习者难以在短时间内学习和理解网络空间安全的知识,知识图谱作为一种灵活性高且表达能力强的解决方案有助于使互联网数据中的碎片化知识产生实际价值。但知识图谱中可能存在错误或不完整、不一致等问题,因此需要通过知识推理来获取新知识或检测错误知识。而在有了知识图谱后还需要与其他任务结合以最大化其作用,对于本文所面对的问题,使用基于知识图谱的推荐系统就是一个良好的解决方案。因此,本文重点研究的就是在网络空间安全知识图谱上进行知识推理以及推荐,其中的主要内容有以下几个方面。首先,本文人工构建了网络空间安全本体并通过基于机器学习的本体匹配方法将来自互联网开放域的相关三元组数据以及问答社区平台Stack Exchange的数据补充到了本体中,接着使用了图数据库Neo4j存储知识图谱。然后,本文通过一种神经张量网络的改进模型实现了知识推理,本文结合Trans系列方法将关系向量直接引入了模型,同时在神经张量网络中使用注意力机制捕获三元组中的关系与推理过程之间的联系,考虑到模型中存在大量参数,本文还对模型中的参数张量切片进行了分解,减少了参数数量,在一定程度上防止了过拟合。最后,本文基于网络空间安全知识图谱研究了推荐算法,本文在利用知识图谱的同时结合Stack Exchange中的用户和帖子相关的数据进行知识推荐,并将以往常常被忽略的用户自定义的辅助信息加入了推荐算法,在为用户推荐匹配的帖子的同时还可以通过知识图谱推荐相关的知识,可以为开发人员和学习者提供便利。
少样本条件下知识图谱推理问题研究
这是一篇关于少样本,知识图谱推理,图注意网络,Transformer,注意力机制的论文, 主要内容为在大数据飞速发展的时代,各类数据信息激增,使得以网络结构表示实体之间信息交互的知识图谱成为研究热点。知识图谱以三元组的形式表示现实世界的客观事实,但来源于各类百科知识的知识图谱往往都是不完整的,存在大量隐含实体和关系缺失的现象。由此,知识图谱推理算法被广泛应用于对不完整的知识图谱进行补全的问题研究。现有的知识图谱推理方法通常需要为每个关系提供大量的训练三元组实例,但事实上很多关系只有很少量的训练样本,这使得传统方法在训练过程中容易产生过拟合问题。因此为解决过拟合问题,少样本条件下基于知识图谱推理的知识图谱补全方法亟待研究,本文主要研究内容如下:(1)基于图注意网络和Transformer的知识图谱表示方法。该方法获得全局-局部信息的融合表示后,再结合上下文信息进行编码表示,解决少样本条件下容易过拟合的问题。具体地,先通过一个图注意网络编码参考集关系-实体对在全局知识图谱中的一般表示;在局部编码阶段获取参考集三元组的邻居结构表示,并通过级联方式获得全局-局部信息的融合编码表示。接下来,将融合后的表示输入Transformer编码器中捕捉实体对及关系的上下文含义,获得实体对的表达。最后通过一个由门控循环单元组成的匹配度量模块,从编码器模块获取参考、查询集中任意两个实体对的向量表示,然后在两个实体对之间进行多步匹配并输出相似度得分。(2)基于注意力机制的关系感知知识图谱表示方法。该方法通过参数生成模块获得特定于某关系的可学习参数,有效提高训练样本的表达能力。具体地,模型首先获得参考集三元组的一跳邻居结构图,并使用预训练模型得到邻居信息的初始嵌入。由于传统加性知识图谱特征表示方法同时对实体和关系同时进行加性连接操作存在局限性,在这里只对头尾实体的嵌入表示进行连接操作。对于关系嵌入表示则采用一个上下文参数生成模块对关系进行操作处理,得到特定于参考查询关系的可学习参数。在关系感知的编码器模块中,得到特定于参考查询关系的实体对表示。最后,通过基于注意力机制的自适应匹配度量模块,对参考集与查询集表示进行相似度打分。本文对以上两种方法在公开数据集NELL和Wiki中进行了链接预测实验验证,并与相关先进模型进行对比。实验结果表明,本文方法在链接预测任务中有较好的表现,能很好的完成少样本知识图谱推理任务。
基于规则的知识图谱推理算法研究与实现
这是一篇关于知识图谱,时序知识图谱,知识图谱推理,对比学习,强化学习的论文, 主要内容为在大数据时代下,知识图谱作为一种结构化的知识表示形式,具有较大的使用价值。知识图谱根据事实中是否包含时间戳,可以分为静态知识图谱和时序知识图谱。然而,在实践中知识图谱中存在着稀疏性和不完备性的问题。通过知识图谱推理技术,可以在已有知识图谱的事实的基础上推导潜在的隐含事实的方式解决相关问题。然而,现有的取得良好效果的知识图谱推理方法大多是深度学习模型而缺乏可解释性,影响了相关方法的实际应用。符号规则是一种可解释的、表达能力强的表示形式,基于规则的知识图谱推理技术作为一类可解释的推理方法应运而生。现有的知识图谱推理技术相关方法在兼顾高效和可解释性等方面存在着局限性,亟待进一步研究。因此,本文分别针对静态知识图谱场景和时序知识图谱场景,对基于规则的知识图谱推理方法开展了深入的研究。在静态知识图谱场景下,针对如何有效利用规则对应的推理路径的问题,本文提出了一种基于规则的静态知识图谱推理方法。该方法包括基于对比学习学习推理路径的嵌入表示和在推理路径的嵌入表示的基础上进行可解释的推理。在公开数据集上的实验结果验证了所提出方法的有效性。在时序知识图谱场景下,针对如何综合规则和时序信息进行推理的问题,本文结合规则和已有的时序知识图谱嵌入模型提出了一种基于规则的时序知识图谱推理方法。该方法从时序知识图谱中采集潜在的推理路径后基于时序推理路径进行可解释的链接预测。在公开数据集上的实验结果表明该方法可以进行高效可解释的推理。此外,在静态知识图谱场景下,本文结合提出的基于规则的静态知识图谱推理方法的特点和用户需求,设计并实现了一个静态知识图谱关系预测系统,探索了相关技术的实际应用。
网络空间安全知识图谱的推理及推荐研究
这是一篇关于本体,网络空间安全,知识图谱,知识图谱推理,知识图谱推荐系统的论文, 主要内容为互联网的兴起在推动社会发展的同时也为网络空间的安全带来了风险和挑战,为了应对这个问题,社会亟需网络空间安全领域的人才,但由于网络空间安全问题的复杂性使得普通的开发者和学习者难以在短时间内学习和理解网络空间安全的知识,知识图谱作为一种灵活性高且表达能力强的解决方案有助于使互联网数据中的碎片化知识产生实际价值。但知识图谱中可能存在错误或不完整、不一致等问题,因此需要通过知识推理来获取新知识或检测错误知识。而在有了知识图谱后还需要与其他任务结合以最大化其作用,对于本文所面对的问题,使用基于知识图谱的推荐系统就是一个良好的解决方案。因此,本文重点研究的就是在网络空间安全知识图谱上进行知识推理以及推荐,其中的主要内容有以下几个方面。首先,本文人工构建了网络空间安全本体并通过基于机器学习的本体匹配方法将来自互联网开放域的相关三元组数据以及问答社区平台Stack Exchange的数据补充到了本体中,接着使用了图数据库Neo4j存储知识图谱。然后,本文通过一种神经张量网络的改进模型实现了知识推理,本文结合Trans系列方法将关系向量直接引入了模型,同时在神经张量网络中使用注意力机制捕获三元组中的关系与推理过程之间的联系,考虑到模型中存在大量参数,本文还对模型中的参数张量切片进行了分解,减少了参数数量,在一定程度上防止了过拟合。最后,本文基于网络空间安全知识图谱研究了推荐算法,本文在利用知识图谱的同时结合Stack Exchange中的用户和帖子相关的数据进行知识推荐,并将以往常常被忽略的用户自定义的辅助信息加入了推荐算法,在为用户推荐匹配的帖子的同时还可以通过知识图谱推荐相关的知识,可以为开发人员和学习者提供便利。
基于图结构关系推理的知识图谱补全方法研究与应用
这是一篇关于知识图谱推理,子图推理,Transfomer,心理健康预警的论文, 主要内容为随着大数据时代的来临以及人工智能技术的蓬勃发展,在2012年知识图谱的概念被正式提出以来,对于知识图谱技术的研究不断迭代更新。知识图谱无处不在,智慧城市,智能检索,问答系统等与我们的日常生活息息相关。但在知识图谱的发展过程中也出现了很多难以解决的问题,例如知识图谱完整性缺失,节点信息含量少等。本论文针对上述缺点对现有的知识图谱推理技术进行改进。分别从基于归纳关系的多层次局部子图推理和基于自注意力机制的全局路径推理两个角度展开分析,最后将两个模块输出的编码信息进行有机结合,最后设计了基于知识图谱推理的心理健康预警系统,将知识图谱推理应用到心理健康领域中。本论文的主要工作如下:(1)针对当前图神经网络信息传递机制单一,对子图结构的高阶语义特征利用较少等问题,提出了节点-边双向增强机制,对节点和边进行相互更新,得到更丰富的上下文语义信息,并利用高阶图神经网络来对多层次子图建模,充分捕捉不同阶数子图元素的高阶语义特征,能够对子图中与实体无关的关系信息进行归纳式的推理,并通过实验验证了节点-边双向增强、分层次构造子图的有效性。(2)针对当前路径推理模型存在长时依赖性问题、路径序列信息建模能力不足等问题。利用Transformer编码器来对提取的关系路径进行建模,并通过自注意力机制获取所有实体间的依赖关系,让更具有逻辑关联的路径拥有更高的权重,提升了关系推理的性能与准确性,并通过实验验证了路径关系编码、路径融合以及联合推理的有效性。(3)设计并实现了基于知识图谱推理的心理健康预警系统作为本论文提出算法的应用。本系统利用心理健康领域作为应用背景,针对大多数人都有着不同程度的心理健康问题,其中抑郁症和自杀倾向尤为突出,且线下心理健康治疗成本高等问题,通过抓取并处理跨模态数据,构建心理知识图谱,并将本论文提出推理算法模型在心理健康知识图谱上应用,提高了心理健康的预警效率,满足了现实生活中的实用性。
基于知识蒸馏的农业知识图谱构建研究
这是一篇关于命名实体识别,关系抽取,知识图谱推理,知识蒸馏的论文, 主要内容为粮食安全问题是关系国计民生的根本性问题,病虫害、自然灾害等对我国粮食产量有着巨大的影响。在应对这些灾害时,网上与之相关的信息虽然繁多,但是存在内容表达差异以及知识零散等问题,数据存储结构以及表示方式等也各不相同,处于一种相对混乱的状态,人们难以高效地利用好这些信息。近十年里,知识图谱技术发展迅速,其能有效地描述各类事物,以及提高搜索查询的速度与质量,因此利用知识图谱相关技术来整合农业领域相关的数据,能帮助我们更快更好地应对作物生长过程中可能遇到的各类问题。本文构建了农业知识图谱系统,实现了实体识别、关系抽取以及知识图谱中实体和关系的查询等功能。在构建知识图谱的过程中,首先根据《中国农业病虫害》、百度百科以及各类农业相关的数据,构建了农业领域本体。然后采用基于知识蒸馏的Bi LSTM-CRF命名实体识别模型以及PCNN关系抽取模型等方法,对结构化和非结构化的数据进行知识抽取,并将抽取出来的知识存储在neo4j图数据库中,共计13983个实体和26498个关系。在构建知识图谱过程中,往往需要挖掘非结构化的数据,而农业领域现存公开的带标签的数据集稀少,因此针对带标签的数据少的情况,本文提出了一个基于知识蒸馏的迁移学习模型,首先训练一个领域鉴别器,其能够对源域和目标域的数据有一个较为准确的分类,然后通过领域鉴别器选出少量目标域的数据,之后仅使用该部分数据,运用知识蒸馏相关的技术,能提升目标域模型的效果。通过实验结果发现,对于一个领域的数据,我们只需标注不到十分之一的数据,相比只用这部分数据进行训练,通过知识蒸馏后能提高模型的效果,因为领域鉴别器里能选出源域对目标域有效的那部分数据。通过这种方式,在大幅缩减数据标注所耗费的人力物力的情况下,模型能达到一个不错的效果。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕业设计客栈 ，原文地址：https://bishedaima.com/lunwen/47935.html
