7个研究背景和意义示例,教你写计算机双向注意力论文

今天分享的是关于双向注意力的7篇计算机毕业论文范文, 如果你的论文涉及到双向注意力等主题,本文能够帮助到你

面向农业领域的智能问答系统设计与实现

这是一篇关于智能问答,中文分词,双向注意力,农业领域的论文, 主要内容为进入21世纪以来,科学技术实现了突飞猛进的发展,计算机技术深深的影响着人们,人们每天的生活已经越来越依赖计算机技术。近四五年来,计算机的内存及外存的单位字节的存储价格在稳步螺旋式下降,各类运算控制单元的运行计算速度在逐渐变得更快,以深度学习为代表的人工智能技术正在经历着新的一轮发展机遇与契机。在农产品的种植过程中,农业从业者往往会面临各种各样的问题;在遇到问题时,农业从业者需要查阅大量的书籍或根据多年积累的经验去解决问题,这导致了问题解决的效率不高等缺陷。近年来,农业领域相关的数据呈爆炸式增长,如何利用这些数据支撑农业产业的发展已经成为了亟待解决的问题。本文设计并实现了一个面向农业领域的智能问答系统,具体工作如下:1.由于中文字与字之间、词与词之间无天然的分隔符这一几千年来的书写习惯;在进行中文阅读任务时,必须先进行中文分词,从一个完整中文句子中根据上下文对中文字进行分割,识别出字与字组合而成的中文词语。本课题对目前现有的双向LSTM中文分词模型进行改进提高精度优化,分别对双向LSTM网络中的正向LSTM层和反向LSTM层赋予不同的阈值权重,更好地模拟人脑对中文句子的分词,有效地提高了中文分词的准确性。2.构建了一个机器智能阅读理解模型,该模型首先模拟人类在阅读文章时的理解过程,然后捕捉文章、问题和答案三者之间的关系,最后基于双向注意力机制对上述关系进行编解码,从而构建智能问答模型。实验证明,本文智能问答模型的有效性和准确度较高。3.构建了一个面向农业领域的智能问答模型。首先,使用网络爬虫,从中国植物网、中国农民网、中国农业网、中国农业信息网以及百度百科等专业知名网站爬取与农业相关的文本。然后,对获得文本进行数据清洗、中文分词、机器理解和模型构建等一系列的步骤,构建了农业知识问答神经网络模型。4.设计并实现了一个智能问答原型系统。基于JSP与Tensor Flow在Intel工作站上实现了整个系统功能,并完成了系统的部署与测试。测试结果表明,本原型系统在EM指标上有着良好的表现,在系统性能上也能满足实时性的需求。

基于python爬虫和NLP的聊天系统设计与实现

这是一篇关于BERT,mask机制,双向注意力,对话系统,背景知识的论文, 主要内容为在社会激烈竞争带来的生活压力变大的背景下,设计一套智能聊天系统可以有效的缓解这一现象。根据聊天系统的实现方式不同,可以划分为基于检索式聊天系统和基于生成式聊天系统,检索式模型的回复语句需要从语料库中检索匹配,匹配的回复语句结构通顺,但是回复的范围有限;而生成式模型生成的语句不受语料库范围的限制,但是通常生成的语句信息量较少。检索式模型和生成式模型相结合的方法能够弥补单种模型的不足,但是模型最终的好坏依赖于结合的方法。若人机对话模型没有设计好,则在实际的聊天系统应用中,用户的体验感会受到很大影响。针对上述问题,论文基于python爬虫和NLP设计和实现了一套智能聊天系统,首先使用双向注意力和随机按比例mask机制来改进聊天系统的机器翻译BERT模型;然后通过引入背景知识和增加通用语料库来改进聊天系统的检索生成对话模型的结合方式。具体内容如下:(1)提出一种加入比例分配mask和编码融合的机器翻译BERT模型。首先计算输入中两个语句的语义关系生成对齐矩阵,使用卷积神经网络提取该对齐矩阵的特征,构造出输入层的句子维度编码,并且使用双向注意力融合词维度编码和句子维度编码,丰富了输入语句的编码信息;在mask掉的15%的单词中,有一半是随机的,另一半则是按照句子成分比例。通过在模型的编码器中加入循环神经网络来分析输入句子的重点部分,重点部分mask掉一半的60%,以提高模型的预测能力。(2)提出一种引入背景知识和通用语料库的DAM和GPT-2融合模型。通过在检索式对话模型DAM的基础上,使用余弦相似度从知识库中选择相关的背景知识,使用注意力机制来分别融合背景知识和输入语句、候选语句,以此方法来提高检索式对话模型回复的准确性;通过使用爬虫技术添加通用语料库和设置阈值的方式改进两种对话模型的结合,计算输入语句与输出语句的相关程度并与阈值比较,若是低于阈值,则去通用语料库里检索和匹配相关的输出。(3)在上述工作基础上,设计和实现了一套智能聊天系统。使用前端的Vue框架制作聊天系统的页面,使用后端Flask框架实现相应的功能,并结合机器翻译模型和检索生成模型,用户信息和聊天记录等数据存储在MySQL数据库,使用Redis数据库缓存cookie等数据,整个聊天系统基于B/S架构实现。