9篇关于门控机制的计算机毕业论文

今天分享的是关于门控机制的9篇计算机毕业论文范文, 如果你的论文涉及到门控机制等主题,本文能够帮助到你

门控图注意力网络的研究与应用

这是一篇关于注意力机制,门控机制,图节点分类,癌症分类,链接预测的论文, 主要内容为现实生活中有很多场景是用更普遍的图结构进行表示的,如引文网络、蛋白质分子网络、知识图谱等等。传统的卷积神经网络在挖掘图结构数据的特征和模式方面显得无能为力。为了能够在图结构数据上进行卷积操作,研究者提出了图卷积神经网络以解决图结构数据上平移不变性缺失所造成的问题。近几年,图卷积神经网络发展迅速,在用户推荐系统、舆情监控和控制、癌症预测等领域都得到了大量的成功应用。为此,本文在详细研究图卷积神经网络的网络结构和发展历程后,总结出了图卷积神经网络目前存在的两大主要挑战:一是缺乏多阶邻域信息的聚合;二是缺乏先验知识的加强。在此基础上,提出一种基于门控机制的图注意力卷积神经网络,并将其应用到图节点分类任务上;然后对提出的模型进行适应性修改,分别提出了两个新的模型以应用到癌症分类任务、知识图谱链接预测任务上;最后验证本文提出的模型的有效性和可解释性。本文提出的三个模型如下:1.提出门控图注意力网络(Gated Graph Attention Network,GGAT)并将其应用到图节点分类任务上。GGAT模型通过引入门控机制以突破主流图神经网络只能依赖短程信息的限制,并能够对信息进行选择和过滤。在基准图数据集Cora、Citeseer、Pubmed上的实验结果表明GGAT模型在图节点分类任务上较传统神经网络模型获得更高的分类准确率。2.提出融合先验知识的门控图注意力网络(GGAT with Prior Knowledge,PK-GGAT)并将其应用到癌症分类任务上。实验结果表明原始GGAT模型在癌症分类任务上较传统机器学习算法以及神经网络模型获得更高的分类准确率;在融合先验知识后,PK-GGAT模型比GGAT模型取得更好的分类准确率,这表明先验知识能够加强模型性能。另外,本文还提出一个混合特征选择算法(Hybrid Feature Selection,HFS)以减少传统机器学习算法的训练时间。3.提出关系门控图注意力网络(Relational Gated Graph Attention Network,R-GGAT)并将其应用到知识图谱链接预测任务上。在知识图谱数据集FB15k、FB 15k-237、UMLS、WN18RR上的实验结果表明R-GGAT模型在链接预测任务上较传统神经网络模型获得更高的预测效果。

面向在线产品评论的细粒度情感分析研究

这是一篇关于深度学习,细粒度情感分析,特征提取,多头自注意力机制,门控机制的论文, 主要内容为移动互联网的兴起带动了线上购物的蓬勃发展,并在电商平台上积累了海量的产品评论文本信息。这些评论文本中往往包含着消费者对产品及其属性所表达的情感态度,提取其中的情感倾向信息对商家和消费者都具有很大的实用价值。文本情感分析技术可以从产品评论文本中提取出情感倾向信息。传统的粗粒度情感分析方法无法对产品属性对应的情感极性进行识别和分类。因此,本文研究的是面向产品评论的细粒度情感分析。本文针对在线产品评论挖掘展开研究,提出了一个面向在线产品评论的细粒度情感分析框架来完成产品属性词抽取和属性级情感分类任务,并将该框架在笔记本电脑评论文本上进行应用。本文的主要工作内容包括:首先,本文使用网络爬虫技术从多个电商网站上收集了笔记本电脑评论文本数据,并对该数据进行了文本预处理和人工数据标注,从而得到本文的实验数据集。其次,利用依存句法关系和词性搭配规则构建模板提取评论中包含的属性词,并对提取到的候选属性词进行过滤和聚类,得到产品的基本属性。然后,在进行方面级情感分类时,针对循环神经网络如LSTM不能并行化训练以及不能充分利用双向序列信息进行长期依赖关系建模,并且引入注意力机制分配注意力权重整合特征进行分类可能会引入噪声并降低预测准确率的问题,提出一种基于轻量级的多头自注意力机制和门控卷积神经网络的模型,并在收集到的数据上设计对比实验,将该模型与Bi-LSTM+门控卷积神经网络、ATAE-LSTM、GCAE、AA-LSTM模型在标注后的数据上进行对比实验。实验结果表明,本文提出的模型在属性级情感分类问题上的准确率达到了94.84%,而Macro-F1值达到了91.06%,高于该领域其他优秀的模型的表现,从而验证了本文提出模型的有效性。最后,对产品属性的评价情况进行分析和总结,指出产品本身的优点和缺点,并针对问题向商家提出了改进的建议。

基于图神经网络的推荐算法研究

这是一篇关于图卷积神经网络,图数据增强,注意力机制,门控机制,超图神经网络,推荐模型的论文, 主要内容为推荐系统发挥在提升网络产品的用户体验发挥着日益重要的作用。推荐系统的本质是对用户画像进行刻画,预测用户可能会交互的项目。虽然基于协同过滤的推荐模型一直是基本范式,但模型性能提升的关键还是建模用户和项目之间的协作信号。由于图神经网络的推荐算法在捕获用户和项目之间的协作信号上具有优势,将图神经网络与推荐任务相结合成为了研究热点。在以往的研究工作发现,图神经网络在编码节点特征时存在着一些问题,本文就这些问题展开研究。在图神经网络与推荐任务相结合时,一方面会出现由于历史交互数据中的噪声导致在构建交互图存在无用链接的问题。另外一方面图卷积神经网络在进行嵌入传播时依据图结构识别各个邻居的重要性会妨碍图节点进行表示学习。为此提出了基于图对比学习和注意力机制的推荐模型。在模型中,图节点随机退出、连接边随机丢失和随机游走这三种图数据增强策略以降低噪声数据在图嵌入传播中的影响。模型在图卷积神经网层融合注意力机制以动态分配不同节点邻居的权重,提升了图卷积神经网络的节点特征表示能力。基于图卷积神经网络的推荐模型在叠加过多的图卷积层时会使得节点特征出现过度平滑效应,另外基于二部图的嵌入传播方式也会使得模型无法学习到用户节点和项目节点的全局协同信号。为此提出了基于门控机制的超图神经网络推荐模型。该模型在普通图嵌入传播的基础上加入超图嵌入传播,使节点同时获得局部协同关系和全局协作信号。该模型中的门控机制可以改善图节点特征的迭代更新机制,该机制可以抑制节点出现过度平滑效应,让节点特征在迭代更新中保留更加有效的特征成分。本文提出的两种模型在公开的数据集上验证了推荐性能上的提升,并通过消融实验,验证了模型各个模块的有效性。

门控图注意力网络的研究与应用

面向在线产品评论的细粒度情感分析研究

基于混合特征的双通道图卷积网络研究

这是一篇关于图卷积网络,注意力机制,门控机制,结构特征,文本特征的论文, 主要内容为现实生活中的许多场景都可以用图数据建模,例如社交网络等。由于图数据的普遍存在性,图数据的研究具有重要意义。传统的图数据分析方法大部分依赖于统计学或人工提取方法,在大多数情况下表达能力不足且计算复杂度太高。过去几年,卷积神经网络的快速发展,借由其强大的建模能力引起广泛关注。因此,利用卷积神经网络处理图数据成为了图研究的热点,并由此产生图神经网络概念。图神经网络在推荐系统等领域取得成功,但对于网络中拥有的复杂信息,需要更有效的方式抽取其中有用的信息,现有的单特征图神经网络无法完整地刻画网络中的相关特性。在网络表示学习任务中,通过浅层神经网络将文本特征和结构特征联合建模的研究较多,其结果证明,混合特征建模能够在下游机器学习任务中性能更优。在图神经网络中,结构和文本联合建模的工作非常少,借鉴文本和结构联合建模的网络表示学习算法,可以提升利用图神经网络对结构与文本联合建模的性能。此外,由于残差网络等深层卷积神经网络的出现,使图像分类等任务的效果得到巨大的提升。但是图卷积网络增加图卷积层的数量到达一定程度后会发生过平滑现象,其特征表达能力不增反降。为了避免该现象,本文利用残差连接构建深度双通道图卷积网络。因此,本文的研究工作如下:(1)提出基于混合特征的双通道图卷积网络模型,利用图卷积网络解决结构和文本特征联合建模的问题。并且借鉴注意力机制和门单元来设计聚合函数,选择性地聚合节点的文本特征,增强节点的特征表达能力。为了使特征之间互相补充,通过一种向量的融合机制生成混合特征用于节点分类任务。通过对比实验和消融实验证明,基于混合特征训练的图卷积网络比单特征图卷积网络的节点分类效果更好。(2)通过将残差连接迁移到基于混合特征的双通道图卷积网络,构建图卷积网络的深度结构,使得节点可以与距离较远的弱关联节点进行特征信息传递来避免过平滑问题。通过对比实验证明,利用残差连接构建深度图卷积网络在节点分类任务中效果更好,并且图卷积网络的深度可以达到16层。本文的研究证实了图神经网络可以从节点的文本中学习到有用的特征,提升模型学习性能,也可以为后续的图神经网络应用提供理论基础和技术支撑。

多轮对话推荐中的用户偏好预测研究

这是一篇关于对话推荐,自注意力机制,门控机制,可解释方法的论文, 主要内容为近年来,推荐系统已逐渐成为人工智能技术重要的应用领域之一。传统的推荐系统一般会利用用户的历史行为(例如用户点击记录,历史购买记录或打分记录等),对用户的偏好进行预测并向用户推荐物品。然而,这样的推荐过程是静态的,仅从用户的历史行为中难以对用户当前短期的偏好做出准确的预测;而对话推荐系统的出现,则从根本上缓解了上述的问题。对话推荐系统通过多轮对话的方式与用户进行交互,在对话过程中引导用户描述短期的偏好并解决用户的当前需求。与一般的推荐场景不同,在多轮对话推荐任务中,系统需要建模对话历史中用户给出的反馈信息,对用户当前的偏好做出预测。本文针对多轮对话推荐问题进行研究,主要的工作内容为如下三点:首先,本文提出了一种基于属性信息的用户偏好预测模型,利用自注意力机制对属性之间的高阶交互信息进行建模。在多轮对话推荐问题中,系统通常会以属性作为媒介引导用户给出相应的反馈信号,例如直接询问用户对于某个属性的喜好情况,并结合用户给出的回答来更好地预测用户当前的偏好。在得到用户关于属性的喜好情况后,需要结合每个物品关联的属性信息来对该物品的喜好做出更准确的估计,因此本文利用自注意力机制来建模了属性信息之间不同组合所构成的高阶交互关系,使得推荐系统能够对用户和物品建模出更精准的表示,从而提升用户偏好预测的效果。在两个公开数据集上的实验结果表明,本文提出的建模属性间高阶交互关系的模型取得了优于基线模型的效果。其次,本文提出了一种基于用户反馈的用户偏好预测模型,利用门控机制建模不同种类的用户反馈之间的关系。在多轮对话推荐中,对话推荐系统会在每一轮对话时选择询问用户是否喜欢某个属性或者向用户推荐物品列表,用户则会根据自己的喜好做出相应的反馈。属性级的反馈来自于用户对于系统询问属性的回复,物品级的反馈来自于用户对于系统推荐物品的回复。为了建模物品级反馈和属性级反馈之间的关系,所提模型设计了一个门控模块,根据用户在对话中喜欢的属性修改拒绝物品的表示,从而得到包含用户当前不喜欢物品信息的表示;所提模型同样利用门控机制,根据对话中不喜欢的属性修改用户的长期喜好表示,并整合修改后的不同类型的反馈信息,对用户偏好进行预测。实验结果表明,在偏好预测任务和与用户交互的过程中,本文提出的模型都取得了优于基线模型的效果。最后,本文提出了一种多轮对话推荐下的可解释方法,能够基于推荐模型对用户偏好预测结果生成相应的解释。在对话过程中,系统向用户提供对推荐的解释,既能帮助用户理解推荐系统是如何工作的,还能引导用户给出相应的回复来提供反馈信号。对于当前模型的推荐结果,所提方法能够告知用户推荐系统是如何建模其对于标签的喜好的,并给出不同标签喜好对于当前推荐结果的贡献程度,同时,根据用户给出的回复,所提方法能够对标签喜好的建模进行修改,并生成新的推荐结果。本文在模拟数据集和真实数据集上进行实验,对所提方法的主要结构和性能做出验证。