基于深度学习的在线评论细粒度情感分析
这是一篇关于深度学习,在线评论,细粒度情感分析,关键词提取,主题模型的论文, 主要内容为随着互联网和电商平台的飞速发展,线上交易已经成为了越来越多网民的消费方式,与此同时,消费者针对商品的在线评论也随之剧增,这些在线评论可以给消费者提供决策意见,也可以给商家提供改进方向,是具有重要意义的大规模文本数据。针对以上应用背景,本文提出一种基于深度学习的细粒度情感分析模型,可以同时预测在线评论中多个评价方面的情感倾向。本文的主要工作如下:首先对文本数据集进行预处理,提出了 BiLSTM-CNN-CRF模型来实现中文文本分词。然后对文本数据进行统计分析,并针对数据集存在的样本不均衡问题提出了解决方法。然后实现了基于中文语料的数据增强,实验结果表明数据增强可以提高细粒度情感分析任务的预测结果。其次提出了一种基于词向量和字向量联合的向量表示方法。使用单一的词向量表示有一定的弊端:分词的好坏会直接影响到词向量模型的效果和模型会出现未登录词的问题,在这种情况下词向量无法有效地对词语进行表征。本文实现了词向量和字向量的联合表示,这兼具了两种向量表示的优点,减少了分词错误带来的影响和一定程度上避免了未登录词(Out of Vocabulary,OOV)问题,又能够充分学习到词语的语义表征,实验结果表明向量联合表示的效果优于单一的向量表示。然后实现了改进的Skip-gram LDA模型,能捕捉到更加细粒度的词语共现关系,弥补了 LDA主题模型忽略词与词之间的顺序的缺陷。本文利用改进的Skip-gram LDA模型实现了在线评论的主题获取,获取的主题便是细粒度情感分析任务中的评价方面。然后基于梯度提升决策树算法实现了方面关键词的提取。然后用方面关键词作为细粒度情感分析模型的输入,实验结果表明这可以使模型更好地预测评价方面所对应的情感倾向。最后实现了细粒度情感分析任务的总体模型。将在线评论和方面关键词同时作为模型的输入,并利用基于注意力机制的LSTM-CNN提取文本特征,通过tanh-relu门控制每个方面的情感信息流动,经过池化层和全连接层,实现了多方面情感倾向的同时预测,最终本文设计的细粒度情感分析模型取得了 0.715的F1分数。
商品评论细粒度情感分析系统设计与实现
这是一篇关于细粒度情感分析,短文本,深度学习,文本表示,BERT的论文, 主要内容为传统的文本情感分析在一些仅需情感极性判定的领域,如网络舆情分析、股评分析等,已体现出较好的应用价值。然而,随着应用的深入,用户如希望进一步获得评价对象属性所对应的具体情感分析结果,传统的情感分析则不能完全满足需求,为此,细粒度情感分析便应运而生,并得到越来越多的重视。不过,目前在细粒度情感分析的文本表示上,依然存在着许多困难和挑战。比如,商品评论属网络文本,存在文本短、重点信息多、不规范、表达方式复杂等特性,甚至可能存在未登录词,或情感词缺少对象属性等问题。此外,现有电商平台还未实现细粒度情感分析系统的实际应用,如何把算法应用到实际生活,这也是一个具有挑战性的工作。本文针对细粒度情感分析中的这些关键问题,在总结国内外细情感分析理论及其研究成果基础之上,主要研究内容包括以下五个部分:(1)通过引入词频-逆文档频度(Term Frequency-Inverse Document Frequency,TF-IDF)技术对关键词向量进行权重标注,再使用文本卷积网络(Text Convolutional Neural Networks,TextCNN)进行情感分类,从而提高细粒度情感分类的准确性。经过实验证明,相较于传统的TextCNN在细粒度情感分类的精度上有所提高,为解决关键词向量权重问题提供了很好的解决思路。(2)通过在输入时引入联合字词表示加强文本表示,在使用面向方面嵌入的门控卷积网络模型(gate convolutional network with Aspect embedded,GCAE)分类前添加一层额外的长短时间记忆模型(Bi-Long Short Term Memory,BiLSTM)改善其长句信息丢失的问题,从而提高细粒度情感分类的准确性。经过实验证明相较于经典的GCAE模型在细粒度情感分类的精度上有所提高,为改进经典模型提供了很好的解决思路。(3)针对静态词向量在文本表示上的不足,用动态分字预训练模型加强文本表示,使用预训练模型(Bidirectional Encoder Representations from Transformers,BERT)进行微调,以达到文本表达的较好效果,并使用集成学习的分类方法对两种分类器加强情感分类,从而达到较为精准的细粒度情感分析。经过实验证明,该模型对提高细粒度情感分析的精度有着最好的效果和精度。(4)针对商品评论文本的不规范性问题,本文使用基于深度学习的改进模型,使其能自动对新增词汇进行特征学习,不需要额外的人工干预。(5)本文将细粒度情感分析精度效果最好的模型封装成原型系统,描述了原型系统的需求分析,并且实现了细粒度分析结果的可视化,为细粒度情感分析系统的实际应用打下了基础。总之,本文针对商品评论网络文本的固有缺陷,提出了一些技术措施。从改进文本表示和优化分类器的角度,提高了情感分类的精度。此外,将本文提出的情感分析精度效果最好的模型封装成原型系统,从系统设计的角度实现了相关功能,可以为细粒度情感分析系统的实际应用提供参考。
基于深度学习的多通道餐饮评论细粒度情感分析
这是一篇关于深度学习,细粒度情感分析,局部特征提取,多通道情感分析模型的论文, 主要内容为情感分析作为自然语言处理的重要内容,在电子商务快速发展的今天有着广泛应用。然而,传统情感分析利用情感词典的方法,给予整条综合性评论单一情感极性,忽略了对多个不同角度情感的细化分析。因此,为进一步准确高效地分析综合性评论不同方面的情感,本文基于深度学习方法,构建了多通道餐饮评论细粒度情感分析模型,从优化细粒度情感分析模型和特征提取准确率两个角度展开研究。其中,情感分析模型的研究是粒度化餐饮评论情感极性,采用多通道方式提高各粒度情感分析的准确率,进而有针对性的挖掘综合性评论中的潜在价值;优化特征提取的研究是改进Bert预训练模型,构建餐饮评论词向量表,引入开源知识图谱,提高对隐式特征的抽取效果。本文主要工作:(1)构建了Bert-BiSRU-Att单通道餐饮评论细粒度情感分析模型。针对多粒度多极性的多维度情感分析问题,本文提出了Bert-BiSRU-Att模型,将Bert预训练模型获得的动态词向量输入到单通道BiSRU-Att中,从而获得丰富的语义信息。为下阶段优化情感分析模型创造基础。(2)构建了Bert-BiSRU-Att-Text CNN多通道餐饮评论细粒度情感分析模型。改变单通道模型输入方式,将词句向量以三通道形式分别输入到BiSRUAtt、Text CNN和句向量通道中,保留各通道提取到的特征信息、主题词与情感词之间的语义关系,最后输出13个粒度的情感极性。实验结果表明,本文所提出的多通道模型较其他模型在细粒度情感分析准确率方面有明显提升。(3)构建了KW-Bert-BiSRU-Att-Text CNN多通道餐饮评论细粒度情感分析模型。为进一步提高情感分析的准确率,首先优化了预训练模型,引入带有开源知识图谱的预训练模型K-Bert,标注特殊词汇增加额外特征信息,再基于餐饮评论词向量表,借助kd-tree对词向量进行相似度检验,从而高效识别特殊领域的词汇,丰富下游情感分析模型的语义和语法信息;然后将改进后的预训练模型与多通道情感分析模型共同应用于餐饮评论数据集中,从而进一步提高情感分析的准确率;最后通过对比实验,验证本文提出的KW-Bert-BiSRU-AttText CNN模型的有效性。
基于电商领域产品评论文本的细粒度情感分析
这是一篇关于细粒度情感分析,深度学习,迁移学习,Attention机制,k-means算法的论文, 主要内容为交互性在线电商平台运营过程中累积了大量携带情感信息的产品评论文本。如何对此类文本进行细粒度情感分析,准确识别出属性词和观点词并准确抽取其搭配关系,从而精确把控用户需求,为用户决策及产品推广提供支持,成为当前学术界与业界的研究热点之一。本文基于迁移学习与深度学习,围绕细粒度情感分析在底层特征建模、上下文信息融合、隐式观点词提取、情感极性判断等关键问题展开研究,并基于真实电商领域产品评论文本建立细粒度情感分析原型系统,为本文算法模型的实际应用提供了平台支撑。主要研究成果如下:(1)提出一种基于知识迁移和双向GRU+CRF的模型,用以解决属性词与观点词抽取任务中由于缺乏高质量标注语料,导致模型过度依赖于底层输入信息丰富度的问题。融入迁移知识作为模型的底层输入,为模型提供了更丰富的可学习特征,其抽取效果相比其它模型得到提升;(2)提出一种结合显式位置信息的Bi LSTM+Attention模型,把重要的相对位置信息作为底层输入的组成部分,在模型中融入注意力机制,有效减小了句子级别非正式文本的噪音权重,解决了显式属性-观点对提取任务中特征权重分配不合理且对重要位置信息利用不够充分,导致模型无法提取鲁棒特征的问题;(3)提出一种新型Bi LSTM+K-Attention的模型,针对隐式属性词抽取不够精准问题设计了新型K-Attention结构,在有效利用了k-means提供的先验知识的同时,能够学习到具有合理权值分配的表征,用于属性词类别的多分类,有效提高了隐式属性词抽取的准确度。同时针对隐式观点词无法得到有效识别这一问题,提出基于k-means情感聚类和语义相似度的算法,经实验验证了该算法的有效性及精准性;(4)提出一种基于情感词典与语义相似度的方法用以解决情感极性的判断问题。选取高质量的种子词并以此为基础对词典进行有效扩充,同时通过语义相似度计算解决了情感词典无法覆盖的情感词的情感极性的判断问题。该模型在很大程度上改善了通用情感词典领域针对性较差的现状,有较好的性能表现。综上,本文结合现实需求针对电商领域产品评论文本设计了一套完整的情感极性评判算法,为今后相关研究提供可借鉴内容。
商品属性和观点词对级别抽取方法研究与原型实现
这是一篇关于商品属性和观点词对级别抽取,细粒度情感分析,范式迁移,多任务学习,预训练语言模型微调的论文, 主要内容为互联网的普及和快速发展对人们的消费习惯和生活方式产生了潜移默化的影响,人们愈发倾向于在网络平台上完成购物及充值等消费。在这种场景下,电商平台中的用户评论对用户消费发挥着重要的参考意见,也对商家改进产品有着关键性的指导意见。然而,海量且与日俱增的评论信息使得人们难以从评论中提取对商品的全面性总结信息。基于此背景,可以分析评论文本中所蕴含的观点及情感的细粒度情感分析技术被提出。本文主要对商品属性和观点词对级别抽取任务展开深入研究,挖掘用户评论中所包含的细粒度的关键性主观情感表达。本文首先总结了这一任务中现有工作没考虑到的关键性挑战,并根据分析结果提出了一套新的问题建模思路。具体来说,本文提出将商品属性和观点词对级别抽取任务分解为两个子任务,商品属性抽取和商品属性特定的观点词抽取,并通过联合这两个子任务来完成整体任务的建模。此外,本文为每个子任务设计了新的序列标记方案和抽取方案,并通过多任务学习机制来使子任务之间相互促进以提高整体的抽取性能。为了证明所提出的方法的有效性和可解释性,本文进一步设计了多种定量对比实验和定性分析实验。本文在四个数据集上对所涉及到的三个任务(一个总任务和两个子任务)依次进行了大量实验。定量实验结果表明本文所提出的方法显著优于这些任务现有的最先进的研究。定性实验结果也证明了所提出的方法各个组件的科学性和有效性。在抽取方法取得良好表现的基础上,本文设计和开发了商品属性和观点词对级别抽取的原型系统。通过需求分析并结合设计约束,系统通过自底向上的分层设计实现了用户评论的抽取以及效果展示。值得一提的是,本系统的模型推理服务对涉及到的三个模型均做了支持。最后,通过一系列的系统测试和实例展示,证明了系统完全满足了用户需求以及设计要求。
基于细粒度情感分析的推荐系统
这是一篇关于推荐系统,细粒度情感分析,注意力机制,神经网络的论文, 主要内容为近年来,随着电子商务的快速发展,推荐算法受到越来越多的关注,而在网上平台涌现出的大量用户、产品、评论等相关信息,也为推荐算法提供了重要的参考。本文将从用户、产品之间的交互关系建模和使用文本评论构建用户、产品画像入手,提出一种结合两者信息的推荐系统。对于推荐系统来说,合理地构建用户、产品画像并对用户和产品之间的关系进行合理的表示和学习必不可少。基于神经网络的推荐系统通过对用户、产品的向量表示后,使用拼接等方式并加以激活函数,可以合理地捕捉用户产品之间的交互关系,从而对最终的推荐评分预测产生更好的估计。实验表明,相较于传统的推荐算法,基于神经网络的推荐系统能够更好地完成用户产品之间关系的表示、学习和预测。除了用户/产品本身购买/被购买的信息,购物平台通常还会提供另一项重要的参考——用户写下的评论。评论通常是用户在购买商品后自发写下的评价,往往反映了用户本身的偏好和产品特性。通过利用评论中的有效信息,我们一方面可以把其作为对用户、产品画像的补充,另一方面,我们可以从中获取系统是否推荐的理由,可以增加推荐系统的可信性和用户的体验。对于推荐系统来说,评论中较为重要的信息通常主要包含两点,一是文本评论中包含的评价词,二是文本评论的情感极性。我们可以使用情感分析技术来分析它们,两项任务之间存在一定的关联,评论句的情感极性通常取决于句子中出现的评价词。因此,我们使用了一个层次化的网络模型联合学习这两项任务,底层通过注意力机制捕捉句子中对情感语义表达更重要的评价词,上层学习情感语义信息的表示。在后面的实验中我们发现,我们提出的层次化网络结构能够有效地从评论句中获取评价词,并分辨句子的情感极性。我们从上述的工作中得到启发,使用评论信息对用户产品之间的交互关系进行补充。目前很少有研究同时考虑评论级别和词级别的重要性。我们提出了一种基于层次化注意力的可解释性推荐算法,首先对用户产品之间的交互信息进行合理的表示,再使用层次化网络分别处理用户、产品相关的评论,作为对用户、产品画像的补充。在层次化网络中,我们先使用了评论内的注意力区分评论句中不同词的重要性,然后使用评论间的注意力区分不同评论之间的重要性。对来自亚马逊的四个真实数据集的实验表明,与几种最先进的方法相比,我们的模型在推荐评分预测方面取得了改进。另外,我们在测试数据中抽取了几个评论例子,并对其评论级别和词级别注意力做可视化的展示,验证了模型对于选择更重要的词和评论的有效性。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：源码客栈 ，原文地址：https://bishedaima.com/lunwen/46224.html
