基于人机对话技术的购物客服系统的设计与实现
这是一篇关于任务型对话系统,自然语言理解,对话管理,对话生成的论文, 主要内容为近年来,电商逐渐成为主流的购物方式,尤其是电商平台成为电子产品极其重要的销售渠道,因此电商平台针对电子产品售中后阶段的客服也急需完善。通过任务型对话系统,用户可以更加便捷的获得回复,节约时间;电商平台则可以在大大降低人力成本的同时使得交流更加便捷。在电子产品购物领域,传统或现有的客服系统存在一些不足之处,例如:因智能客服无法正确理解用户的语义所以给出不相关的回复,亦或是对话系统效率低下,需要通过很长的询问流程才能满足用户的需求等。为解决上述问题,给用户带来更好的购物服务体验,本课题进行了如下工作:(1)调研任务型对话系统的研究背景、意义和研究现状,对目前购物电商平台中针对电子产品类对话系统存在的问题以及痛点进行阐述。针对目前存在的问题进行总体业务需求分析,并将其模块化拆分处理,主要拆分为功能性模块和非功能性模块,非功能性模块主要是用户与系统的前端交互模块,功能性模块包含自然语言理解模块,对话管理模块和对话生成模块。(2)依据实际需求,考虑到本课题的数据主要为电子产品领域下的售中后阶段客服数据,因此针对电子产品领域的售中后阶段,对系统进行总体设计和详细设计,总体设计系统的整体框架内容以及各个子模块之间的联系,详细设计对每一个子模块都进行了详细的阐述和说明。另外,本文还通过流程图,UML类图等方式辅助介绍模块的详细信息。(3)对于系统的核心算法模块,自然语言理解模块,采用意图-槽位联合建模,在ERNIE-base的基础上构建ERNIE-BiLSTM-CRF模型,实验结果表明,在ERNIE模型的输出层拼接BiLSTM-CRF模型获得最佳效果,准确率达到91.34%。在给定数据集上,与当前自然语言理解模块所用的主流方法相比,提高了该模块的准确率,使得最终构建的客服系统回复更加精准。(4)对系统进行展示和测试,对系统中几个重要的子模块进行了功能测试,通过各部分的评价指标验证本课题所使用模型方法的准确性,同时验证了对话系统子功能模块的有效性。最后通过具体的测试用例展示用户与客服系统的交互结果,证明了该面向电子产品领域售中后阶段的购物客服系统的可用性和完备性。
基于知识图谱的对话生成任务研究
这是一篇关于知识图谱,对话生成,知识感知路径,对比学习的论文, 主要内容为对话系统作为自然语言处理领域的一个重要分支,近些年得到了快速发展。传统的对话系统分为任务型对话系统和开放域对话系统,前者主要用于在特定任务上与人类对话并完成任务,如订票助手、智能客服系统等;后者主要用于与人类进行闲聊。为了让对话系统生成更有意义的回复,研究人员尝试在模型中引入外部知识,比如非结构化的文本和结构化的知识图谱。本文主要研究基于知识图谱的对话生成任务。由于对话历史和知识图谱结构上的差异,现有方法多采用分别编码后通过语义隐向量进行联合建模的方法,这将无法充分利用图的拓扑结构进行预测;同时,大规模预训练模型的发展促进了预训练加微调模式的应用。但是当模型的应用数据局限在特定领域时,预训练模型生成的向量可能会在高维语义空间中聚集,从而导致模型无法充分利用预训练的信息提升生成效果。针对上述问题,本文以提升生成语言的准确度和自然度为主要目标开展算法研究,其创新性如下:1)提出了基于知识感知路径的对话生成算法。通过对数据的分析发现,实体和关系是多轮对话和知识图谱逻辑上的交集,对话的轮次迁移也对应着实体在知识图谱上的迁移。因此本文尝试构建知识感知路径对对话历史和知识图谱进行联合建模,通过识别每句话提到的实体和关系,将对话轮次信息在知识图谱中构建迁移路径,最终从图拓扑结构的角度对知识选择做出预测,辅助对话生成。2)提出了结构化路径建模的对话生成算法。根据对知识感知路径的处理方式不同,本文提出了结构化路径建模的对话生成算法。该方法可以从对话历史中获得更细粒度的知识感知路径信息。实验结果表明所提出的方法在知识选择效果和对话生成准确性上均优于基线模型。3)提出了基于对比学习的对话生成方法。该方法借鉴了文本数据增强和推荐系统召回负采样的思路,构造了与知识相关的无监督对话正负样本增强算法。在现有模型输入侧引入对比学习预训练模块,对编码器参数进行基于对比学习的预训练。实验结果表明,本文提出的方法使句向量在语义空间中的聚集现象得到了缓解,同时模型能够生成更加多样的回复。
基于知识图谱的对话生成任务研究
这是一篇关于知识图谱,对话生成,知识感知路径,对比学习的论文, 主要内容为对话系统作为自然语言处理领域的一个重要分支,近些年得到了快速发展。传统的对话系统分为任务型对话系统和开放域对话系统,前者主要用于在特定任务上与人类对话并完成任务,如订票助手、智能客服系统等;后者主要用于与人类进行闲聊。为了让对话系统生成更有意义的回复,研究人员尝试在模型中引入外部知识,比如非结构化的文本和结构化的知识图谱。本文主要研究基于知识图谱的对话生成任务。由于对话历史和知识图谱结构上的差异,现有方法多采用分别编码后通过语义隐向量进行联合建模的方法,这将无法充分利用图的拓扑结构进行预测;同时,大规模预训练模型的发展促进了预训练加微调模式的应用。但是当模型的应用数据局限在特定领域时,预训练模型生成的向量可能会在高维语义空间中聚集,从而导致模型无法充分利用预训练的信息提升生成效果。针对上述问题,本文以提升生成语言的准确度和自然度为主要目标开展算法研究,其创新性如下:1)提出了基于知识感知路径的对话生成算法。通过对数据的分析发现,实体和关系是多轮对话和知识图谱逻辑上的交集,对话的轮次迁移也对应着实体在知识图谱上的迁移。因此本文尝试构建知识感知路径对对话历史和知识图谱进行联合建模,通过识别每句话提到的实体和关系,将对话轮次信息在知识图谱中构建迁移路径,最终从图拓扑结构的角度对知识选择做出预测,辅助对话生成。2)提出了结构化路径建模的对话生成算法。根据对知识感知路径的处理方式不同,本文提出了结构化路径建模的对话生成算法。该方法可以从对话历史中获得更细粒度的知识感知路径信息。实验结果表明所提出的方法在知识选择效果和对话生成准确性上均优于基线模型。3)提出了基于对比学习的对话生成方法。该方法借鉴了文本数据增强和推荐系统召回负采样的思路,构造了与知识相关的无监督对话正负样本增强算法。在现有模型输入侧引入对比学习预训练模块,对编码器参数进行基于对比学习的预训练。实验结果表明,本文提出的方法使句向量在语义空间中的聚集现象得到了缓解,同时模型能够生成更加多样的回复。
基于知识图谱的对话生成任务研究
这是一篇关于知识图谱,对话生成,知识感知路径,对比学习的论文, 主要内容为对话系统作为自然语言处理领域的一个重要分支,近些年得到了快速发展。传统的对话系统分为任务型对话系统和开放域对话系统,前者主要用于在特定任务上与人类对话并完成任务,如订票助手、智能客服系统等;后者主要用于与人类进行闲聊。为了让对话系统生成更有意义的回复,研究人员尝试在模型中引入外部知识,比如非结构化的文本和结构化的知识图谱。本文主要研究基于知识图谱的对话生成任务。由于对话历史和知识图谱结构上的差异,现有方法多采用分别编码后通过语义隐向量进行联合建模的方法,这将无法充分利用图的拓扑结构进行预测;同时,大规模预训练模型的发展促进了预训练加微调模式的应用。但是当模型的应用数据局限在特定领域时,预训练模型生成的向量可能会在高维语义空间中聚集,从而导致模型无法充分利用预训练的信息提升生成效果。针对上述问题,本文以提升生成语言的准确度和自然度为主要目标开展算法研究,其创新性如下:1)提出了基于知识感知路径的对话生成算法。通过对数据的分析发现,实体和关系是多轮对话和知识图谱逻辑上的交集,对话的轮次迁移也对应着实体在知识图谱上的迁移。因此本文尝试构建知识感知路径对对话历史和知识图谱进行联合建模,通过识别每句话提到的实体和关系,将对话轮次信息在知识图谱中构建迁移路径,最终从图拓扑结构的角度对知识选择做出预测,辅助对话生成。2)提出了结构化路径建模的对话生成算法。根据对知识感知路径的处理方式不同,本文提出了结构化路径建模的对话生成算法。该方法可以从对话历史中获得更细粒度的知识感知路径信息。实验结果表明所提出的方法在知识选择效果和对话生成准确性上均优于基线模型。3)提出了基于对比学习的对话生成方法。该方法借鉴了文本数据增强和推荐系统召回负采样的思路,构造了与知识相关的无监督对话正负样本增强算法。在现有模型输入侧引入对比学习预训练模块,对编码器参数进行基于对比学习的预训练。实验结果表明,本文提出的方法使句向量在语义空间中的聚集现象得到了缓解,同时模型能够生成更加多样的回复。
情绪引导式情感对话系统研究
这是一篇关于人机交互,情绪引导,情感建模,对话生成,情绪控制的论文, 主要内容为在社交生活中,人的情感往往影响着对话的过程。情感表达是人类表达自我的一种重要方式,因此社交媒体中的对话数据包含着大量有用的情感信息,是研究情感对话和动态情感迁移的基础,即个体的情绪状态对外界的刺激的反应以及对话的情绪状态。在人机交互领域,我们不仅仅希望人机交互能够完成特定的交互任务,也希望系统具备情绪分析和情绪建模的能力,来使得交互系统更加人性化。目前,大多数人机交互系统的关注点在于对话的流畅性,多样性和准确性,却忽略了情绪在人机对话中的作用。然而,在人机对话任务中仅仅考虑对话的准确和完整是不够的,如何使得机器具备人类的情感,并根据情绪来做出不同的表达,是提升人机交互系统性能的重要部分,也是人机交互系统的发展趋势之一。为此,本文提出了一种情绪引导式的情感对话系统,在确保对话有效性和完整性的基础上,使机器具有分析情绪和处理情绪的能力,并可以根据对话者的情绪转移状态进行情绪建模和情绪引导,控制和引导对话的情绪发展方向。主要由以下几个方面构成:(1)构建对话文本的多层意图识别系统,识别对话文本的基本意图,根据对话的意图区分场景和进行识别操作。并构建对话知识图谱作为对话系统的数据基础,保障对话系统生成回复的有效性准确性。(2)基于MCMC采样和强化学习算法进行对话过程中的情感建模,计算情绪刺激策略,刺激和引导人机交互过程中的情绪状态。(3)基于注意力机制进行情绪对话的生成,根据情绪有效词来改写对话回复文本,并使用情绪刺激策略来作为情绪引导。生成不同的对话文本的情感回复表达。实验结果表明,本文提出的模型可以识别基础的文本意图,并进行相关操作;也可以有效的控制情绪表达,同时可以分析对话者的情绪转移分布,进行情绪引导,生成不同的情绪表达回复。本文对生成回复在情绪完整性,流畅性,相关性等几个方面评估模型,并取得了不错的效果。
融合因果推理的细粒度情感分析算法的设计与实现
这是一篇关于因果推断,预训练语言模型,情感分析,对话生成,反事实推理的论文, 主要内容为将语言模型在大规模的公开语料上预训练,并将预训练后的语言模型在自然语言处理子任务上微调已经成一种训练范式。但不论是预训练过程中语言模型习得的偏见还是在下游任务训练集上的出现数据分布不平衡的现象,都会出现在测试集上模型推理的准确率满足条件,但在实际场景应用中模型性能可能不如预期情况,即模型没有泛化能力。模型训练过程中习得的可疑的关联关系是导致上述现象的其中一个原因,而因果推断能在任务和目标之间建立稳定的因果关系。同时,细粒度情感分析作为文本情感分析中一项重要且具有挑战性的子任务,在舆情分析、搜索、个性化推荐、内容安全、对话系统等若干场景均发挥着重要的作用,受此启发,本文将因果推理融合至现有的细粒度情感分析算法内,并将其应用至分类和生成任务中进行验证。本文基于因果推断的技术对细粒度情感分析算法进行设计与实现:在分类任务中,提出 CF-ACSA(Counterfactual Aspect Category Sentiment Analysis)框架,基于半监督的方法识别出微调任务训练数据集对应的各类情感倾向中的可疑关联属性项并构造反事实样本,对反事实样本和原始样本得到对应情感倾向的分数进行干预,最终得到一个去除偏移的推理结果。在生成任务中,本论文将CF-ACSA框架应用至对话情感生成任务当中,识别隐含在对话上下文中的情感,并将用户侧的情感记忆存储,在多轮对话中结合上下文精准地召回用户侧情感记忆,可控地生成蕴含该情感的回复,赋予对话机器人共情能力。基于上述两个算法创新点,搭建了因果推理算法平台,平台提供用户交互页面,可供用户便捷地使用数据集预处理、数据集管理、因果图生成、因果图可视化和因果分析功能。本文提出的算法在ASAP和DuLeMon公开数据集上进行了验证,自动化评估指标和人工评估指标的实验结果证明了本论文所提出的算法能在公开数据集上相较于过往的基线算法有了更好的提升,同时实验在编码器、解码器和编码器-解码器架构上也验证了算法能在不同种类的语言模型上适配。
基于知识背景的影院机器人对话系统设计与实现
这是一篇关于对话生成,检错复写,主动式人机对话,预训练模型,影院机器人的论文, 主要内容为近年来,随着机器人技术的发展和成熟,越来越多服务机器人已经应用到我们生活中。影院机器人作为人工智能结合影院场景的创新应用,能够提升影院的智慧化水平和服务质量。论文以影院机器人对话系统为切入点,聚焦人工智能技术对传统影院的改造升级。现有的机器人对话系统,采取规则式或检索式实现,根据用户的问题在数据库中匹配用户可能感兴趣的回复然后发送给用户。这种被动对话的设计,无法适用于影院宣传推广、影片选看等主动对话场景。针对影院场景下的对话推荐任务,论文设计并实现了一种基于主动式对话的影院机器人对话系统。主动式对话核心问题是如何根据知识信息生成回复以及如何将对话主题引导到目标话题。论文设计了生成式模型进行对话生成。采用知识选择模块动态分配知识信息和对话历史的权重,使生成式模型能够产生结合影片信息的回复。论文结合主动者角色的特点来设计模型输入端,使模型具备主动引导对话的能力。针对机器人生成回复中出现的信息错误问题,论文设计了包含检测模块和复写模块的对话复写模型来提升回复的正确性。通过融合软掩码机制的检测模块来定位检测错误。通过融合指针网络的复写模块从输入端复制知识和对话历史进行纠错。通过主动对话任务数据集上的测试,验证了论文模型的有效性。根据影院对话场景的需求,利用上述模型,论文搭建了影院机器人的软硬件验证平台。通过在软硬件平台进行测试,证明论文设计对话系统具备主动引导话题、高信息量、低错误率等功能。论文实现了一种能够主动发起对话,根据知识背景将对话引导到推荐目标的影院机器人对话系统。该对话系统具备一定的实用价值和研究价值,为影院机器人推广应用奠定了良好基础。
基于知识图谱的自然语言对话研究与实现
这是一篇关于知识图谱,对话生成,知识问答,知识选择的论文, 主要内容为随着深度学习与自然语言处理技术的突破性发展,人机对话技术在智能客服等领域得到广泛应用。在生成式对话系统的构建中,常面临知识缺失造成生成回复不准确的问题。知识图谱,作为高度结构化知识,可以给对话系统提供常识背景知识,促进对话过程中语义理解和回复生成。然而,现有基于知识图谱的对话问答系统中,知识编码过程中忽略特定上下文导致冗余知识的引入,和生成过程中难以合理利用知识,生成具有信息量和多样性的回复。故本论文以对话问答系统中知识融合和知识选择为核心研究问题,主要创新和贡献如下:首先,针对基于知识感知的开放域对话任务,现有研究发现在检索得到的知识子图中有较多冗余的知识三元组,模型缺少对当前对话主题的建模,导致生成的回复与当前的对话主题无关。为了解决上述问题,提出基于图注意力机制的知识增强编码模块和基于关键话题实体预测的知识选择模块,通过模型建模对话主题,提高模型运用知识生成回复的准确率。实验表明模型在知识选择方面优于目前基线模型。其次,进一步研究了基于知识图谱的问答生成任务,现有方法忽略问题中的关系信息进行知识编码,且在解码过程中,知识概率分布会以静态的形式放入解码过程,导致难以生成包含正确实体或者多实体答案的问题。为了解决上述问题,提出基于关系预测的知识编码模块和基于动态知识选择的多层解码模块,实现随着解码状态的变化而动态选择知识的能力,提高模型生成答案的准确率和丰富度。在开源数据集上与基线模型进行对比实验,证明模型设计有效性。最后,基于上述模型及相关数据资源,设计并实现集开放域闲聊对话和知识图谱问答为一体的对话问答系统。结合实际项目需求与特点,为用户提供简洁易操作的对话问答交互页面,验证了基于知识图谱的自然语言对话技术的实际应用价值。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：源码港湾 ，原文地址：https://bishedaima.com/lunwen/55086.html
