面向医疗领域的中文命名实体识别方法研究
这是一篇关于命名实体识别,BERT,Lattice LSTM,多路召回,LightGBM的论文, 主要内容为随着互联网技术的迅速发展,越来越多的在线医疗问诊网站得到患者的信任和依赖,患者通过在线问诊的方式将自身症状跟医生诉说,寻求专业的解答。利用信息抽取和知识图谱技术,可以将在线医疗咨询文本中的关键实体、实体的属性和实体间的关系进行提取和存储,为在线医疗智能问答系统提供基础,进一步改善患者的线上就医体验。其中,命名实体识别技术是信息抽取中的基础和关键技术。因此,研究如何提升在线医疗咨询文本的命名实体识别效果,具有非常重要的现实意义。当前对医疗领域中文命名实体识别方法的研究仍处于起步阶段,本文经过调研分析,发现存在如下可以改善的问题:(1)缺乏高质量的命名实体识别公开数据集。(2)识别效果存在一定的提升空间。(3)对BERT等语言模型的研究和应用还不够深入。(4)鲜有融合多种命名实体识别技术的方法。针对上述问题,本文主要进行了如下的工作:(1)针对没有公开的医疗领域命名实体识别数据集的现状,本文利用爬虫得到的在线问诊网站中的医疗咨询文本,构建了高质量的标注数据集。(2)分析BERT模型在医疗领域命名实体识别任务中的效果以及BERT基于特征和基于参数微调两种方式的效果,为下文的研究打下基础。(3)创新性地提出BERT＿Lattice LSTM模型并将其应用于中文命名实体识别任务中。BERT＿Lattice LSTM模型利用BERT语言模型作为特征提取模块,并利用Lattice LSTM模型作为命名实体识别主体模块,最后经过CRF层对输出结果进行调整。实验结果表明,该模型可以充分结合BERT语言模型对于字符级别潜在语义信息的获取优势,以及Lattice LSTM模型对于词语级别信息的获取优势,大大提升中文命名实体识别任务的效果。(4)针对医疗领域命名实体识别任务的专业性和领域性,本文借鉴了推荐系统中多路召回的思路,创新性地设计了多条命名实体召回通路,并利用Light GBM模型进行融合。该方法在本文构建的在线医疗咨询文本数据集上能达到较高的识别精度,相对于该数据集上表现最优的单模型BERT＿Lattice LSTM,识别精度有了显著的提升。综上所述,本文提出的方法能进一步提升医疗领域中文命名实体识别任务的效果,最终为面向医疗领域的中文命名实体识别技术提供深刻的指导意义。
新闻推荐系统的设计与实现
这是一篇关于推荐系统,多路召回,transformer,android studio的论文, 主要内容为随着信息时代的来临,越来越多的人在线读取新闻报道。但是在网络上有几百万篇来自不同渠道,不同领域的新闻报道,使用户迷失在海量数据中。新闻推荐系统就是帮助用户找到感兴趣的内容,减轻信息过载问题,并且会给用户推荐一些他们可能感兴趣的新闻。现有研究往往针对排序阶段的模型进行设计或改进,却很少有论文强调召回阶段对推荐性能的影响。这主要是因为召回阶段需要根据当前的业务场景,设计出适合当前业务场景的召回策略,往往没有普适性,需要具体问题具体分析。但是召回阶段却非常重要,因为它不仅能大大减少推荐的运算时间,还能提高推荐的准确度。排序阶段也不可或缺,因为它可以使模型的精度进一步提升。目前的多数模型使用双向LSTM或者双向GRU加attention机制学习用户的历史行为进行下一次点击预测。但是上述方法存在梯度消失的问题,因此无法充分获取物品之间的关系,导致推荐性能下降。本文设计和实现了一个新闻推荐系统,提出一个多路召回策略降低数据规模,提出一个基于transformer的排序算法学习用户的点击序列特征,从而实现新闻推荐。(1)召回阶段。召回阶段的目的是利用少量特征和简单的模型或者规则进行候选集的快速筛选,将海量的数据集快速缩小为几百到几千的规模,减少精准排序阶段的时间开销。由于每种召回策略都有各自的优势和不足,将多种召回方式进行融合,“扬长避短”,可以得到适用于具体业务场景的候选集。因此本文提出一种多路召回策略,融合基于deepwalk的召回,基于Node2Vec的召回等方法,并通过实验验证了多路召回融合策略的有效性。(2)排序阶段。排序阶段的目的是使用复杂模型,利用多特征进行排序,得到更精确的排序结果。在这一阶段,需要处理的物品数量少,可利用较多特征。本文使用双塔模型,首先将序列特征信息输入到双塔模型的第一塔中,将每个文章的类别信息输入到第二个塔中,然后通过embedding将独热编码映射到低维稠密空间,接着再传入到transformer模型。最后将这两部分输出的向量进行拼接,经过全连接层和softmax函数,得到最后的预测结果。通过实验验证本文提出的基于transformer的序列化推荐更高效。(3)本文基于上述两个阶段的算法设计和实现了一个基于安卓的新闻推荐系统。系统由前端展示界面和后端服务器系统两部分组成。前端面向用户,收集用户信息,后端进行数据预处理,特征工程,算法优化。本文利用android studio工具渲染前端界面,利用kafka搜集用户信息,利用非关系型数据库mongo DB进行数据存储。通过测试表明系统的可用性和稳定性。
基于知识图谱的个性化新闻推荐系统的设计与实现
这是一篇关于个性化新闻推荐,知识图谱,多路召回,表示学习,深度神经网络的论文, 主要内容为随着个性化的推荐算法在工业界的应用日益成熟,越来越多的“互联网+”产品都开始提供推荐服务。推荐系统的重要性和发挥的作用越来越大。新闻推荐作为推荐领域的一部分也成为研究的热点,一个好的个性化新闻推荐系统一方面可以带来新的用户流量,另一方面可以巩固已有的用户基础。一般来说,个性化新闻推荐主要包含了生成推荐候选集和候选集排序两个部分。本文将知识图谱特征学习应用到推荐系统中,设计并实现个性化新闻推荐系统,并对其中的候选排序模型进行了研究。本文采用B/S架构搭建系统,后端使用Flask框架,数据库使用mysql,前后端使用http进行数据传输。主要工作如下:(1)对基于知识图谱特征学习的三个推荐模型进行实证分析对比,选择合适的模型应用到推荐系统中,其中这三个模型分别对应知识图谱特征学习应用到推荐系统中的三个方法:依次学习、交替学习、联合学习。通过在同一实验环境下,使用可验证的数据集,进行推荐模型的训练和预测对比,使用推荐评估指标AUC、F1对模型进行评估对比,最终选择使用了DKN模型;(2)结合推荐系统的具体需求和相关技术,对系统的整体架构进行设计。本文将个性化新闻推荐系统划分为新闻展示分析模块、新闻推荐模块、数据收集模块,并对各个模块的详细设计与实现进行阐述。最后,对系统进行测试,并验证个性化新闻推荐系统的有效性和可用性。
基于知识图谱的个性化新闻推荐系统的设计与实现
这是一篇关于个性化新闻推荐,知识图谱,多路召回,表示学习,深度神经网络的论文, 主要内容为随着个性化的推荐算法在工业界的应用日益成熟,越来越多的“互联网+”产品都开始提供推荐服务。推荐系统的重要性和发挥的作用越来越大。新闻推荐作为推荐领域的一部分也成为研究的热点,一个好的个性化新闻推荐系统一方面可以带来新的用户流量,另一方面可以巩固已有的用户基础。一般来说,个性化新闻推荐主要包含了生成推荐候选集和候选集排序两个部分。本文将知识图谱特征学习应用到推荐系统中,设计并实现个性化新闻推荐系统,并对其中的候选排序模型进行了研究。本文采用B/S架构搭建系统,后端使用Flask框架,数据库使用mysql,前后端使用http进行数据传输。主要工作如下:(1)对基于知识图谱特征学习的三个推荐模型进行实证分析对比,选择合适的模型应用到推荐系统中,其中这三个模型分别对应知识图谱特征学习应用到推荐系统中的三个方法:依次学习、交替学习、联合学习。通过在同一实验环境下,使用可验证的数据集,进行推荐模型的训练和预测对比,使用推荐评估指标AUC、F1对模型进行评估对比,最终选择使用了DKN模型;(2)结合推荐系统的具体需求和相关技术,对系统的整体架构进行设计。本文将个性化新闻推荐系统划分为新闻展示分析模块、新闻推荐模块、数据收集模块,并对各个模块的详细设计与实现进行阐述。最后,对系统进行测试,并验证个性化新闻推荐系统的有效性和可用性。
基于Flink的专家智库实时推荐系统的设计与实现
这是一篇关于实时推荐,流计算引擎,多路召回,相似度匹配,专家智库的论文, 主要内容为随着科学技术的蓬勃发展,论文和专利等学术成果与日俱增,但同时也带来了信息过载问题。为了缓解这一问题,专家智库平台应运而生,提供了丰富的学术资源和检索功能。然而,现有的专家智库平台普遍存在强检索弱推荐问题,即使有推荐服务,其策略也往往以领域主题推荐等离线推荐为主,忽视了用户的即时兴趣。此外,专家智库平台的海量学术资源也对推荐系统的性能提出了极高要求。因此,为专家智库平台提供高性能的能捕捉即时兴趣的实时推荐服务,具有极高的价值和意义。针对以上问题,本文设计并实现了基于Flink的专家智库实时推荐系统,重点工作包括以下几个方面:(1)设计并实现了三段式的基于Flink的实时流处理推荐架构方案。该架构方案有效融合了 Lambda架构和Kappa架构的优点,并与基于Storm的Lambda架构方案进行对比实验,实验结果验证了本文架构方案在吞吐量和时延上均有较大提升。(2)提出了面向专家智库的多路召回实时推荐策略。该策略将协同过滤推荐、基于内容的推荐等离线推荐策略与基于热度的推荐、实时协同过滤推荐等实时推荐策略进行结合,并针对专家智库平台多场景推荐特色进行定制化融合策略。最终通过使用平台采集的真实用户数据进行消融实验和分支对比实验,实验结果验证了本文策略在命中率、召回率和NDCG指标上均有所提升。(3)搭建了带实时推荐的专家智库平台。该平台系统使用SpringBoot框架进行后端开发,使用Vue.js和Nuxt.js进行了前端开发,使用MySQL作为关系型数据库,搭建于阿里云ECS服务器上。该平台系统实现了首页推荐功能、项目与研讨功能、检索功能、工作台功能和管理员功能等模块,功能完备。并且,该平台系统经过功能测试与性能测试后已经上线运营。
新闻推荐系统的设计与实现
这是一篇关于推荐系统,多路召回,transformer,android studio的论文, 主要内容为随着信息时代的来临,越来越多的人在线读取新闻报道。但是在网络上有几百万篇来自不同渠道,不同领域的新闻报道,使用户迷失在海量数据中。新闻推荐系统就是帮助用户找到感兴趣的内容,减轻信息过载问题,并且会给用户推荐一些他们可能感兴趣的新闻。现有研究往往针对排序阶段的模型进行设计或改进,却很少有论文强调召回阶段对推荐性能的影响。这主要是因为召回阶段需要根据当前的业务场景,设计出适合当前业务场景的召回策略,往往没有普适性,需要具体问题具体分析。但是召回阶段却非常重要,因为它不仅能大大减少推荐的运算时间,还能提高推荐的准确度。排序阶段也不可或缺,因为它可以使模型的精度进一步提升。目前的多数模型使用双向LSTM或者双向GRU加attention机制学习用户的历史行为进行下一次点击预测。但是上述方法存在梯度消失的问题,因此无法充分获取物品之间的关系,导致推荐性能下降。本文设计和实现了一个新闻推荐系统,提出一个多路召回策略降低数据规模,提出一个基于transformer的排序算法学习用户的点击序列特征,从而实现新闻推荐。(1)召回阶段。召回阶段的目的是利用少量特征和简单的模型或者规则进行候选集的快速筛选,将海量的数据集快速缩小为几百到几千的规模,减少精准排序阶段的时间开销。由于每种召回策略都有各自的优势和不足,将多种召回方式进行融合,“扬长避短”,可以得到适用于具体业务场景的候选集。因此本文提出一种多路召回策略,融合基于deepwalk的召回,基于Node2Vec的召回等方法,并通过实验验证了多路召回融合策略的有效性。(2)排序阶段。排序阶段的目的是使用复杂模型,利用多特征进行排序,得到更精确的排序结果。在这一阶段,需要处理的物品数量少,可利用较多特征。本文使用双塔模型,首先将序列特征信息输入到双塔模型的第一塔中,将每个文章的类别信息输入到第二个塔中,然后通过embedding将独热编码映射到低维稠密空间,接着再传入到transformer模型。最后将这两部分输出的向量进行拼接,经过全连接层和softmax函数,得到最后的预测结果。通过实验验证本文提出的基于transformer的序列化推荐更高效。(3)本文基于上述两个阶段的算法设计和实现了一个基于安卓的新闻推荐系统。系统由前端展示界面和后端服务器系统两部分组成。前端面向用户,收集用户信息,后端进行数据预处理,特征工程,算法优化。本文利用android studio工具渲染前端界面,利用kafka搜集用户信息,利用非关系型数据库mongo DB进行数据存储。通过测试表明系统的可用性和稳定性。
新闻推荐系统的设计与实现
这是一篇关于推荐系统,多路召回,transformer,android studio的论文, 主要内容为随着信息时代的来临,越来越多的人在线读取新闻报道。但是在网络上有几百万篇来自不同渠道,不同领域的新闻报道,使用户迷失在海量数据中。新闻推荐系统就是帮助用户找到感兴趣的内容,减轻信息过载问题,并且会给用户推荐一些他们可能感兴趣的新闻。现有研究往往针对排序阶段的模型进行设计或改进,却很少有论文强调召回阶段对推荐性能的影响。这主要是因为召回阶段需要根据当前的业务场景,设计出适合当前业务场景的召回策略,往往没有普适性,需要具体问题具体分析。但是召回阶段却非常重要,因为它不仅能大大减少推荐的运算时间,还能提高推荐的准确度。排序阶段也不可或缺,因为它可以使模型的精度进一步提升。目前的多数模型使用双向LSTM或者双向GRU加attention机制学习用户的历史行为进行下一次点击预测。但是上述方法存在梯度消失的问题,因此无法充分获取物品之间的关系,导致推荐性能下降。本文设计和实现了一个新闻推荐系统,提出一个多路召回策略降低数据规模,提出一个基于transformer的排序算法学习用户的点击序列特征,从而实现新闻推荐。(1)召回阶段。召回阶段的目的是利用少量特征和简单的模型或者规则进行候选集的快速筛选,将海量的数据集快速缩小为几百到几千的规模,减少精准排序阶段的时间开销。由于每种召回策略都有各自的优势和不足,将多种召回方式进行融合,“扬长避短”,可以得到适用于具体业务场景的候选集。因此本文提出一种多路召回策略,融合基于deepwalk的召回,基于Node2Vec的召回等方法,并通过实验验证了多路召回融合策略的有效性。(2)排序阶段。排序阶段的目的是使用复杂模型,利用多特征进行排序,得到更精确的排序结果。在这一阶段,需要处理的物品数量少,可利用较多特征。本文使用双塔模型,首先将序列特征信息输入到双塔模型的第一塔中,将每个文章的类别信息输入到第二个塔中,然后通过embedding将独热编码映射到低维稠密空间,接着再传入到transformer模型。最后将这两部分输出的向量进行拼接,经过全连接层和softmax函数,得到最后的预测结果。通过实验验证本文提出的基于transformer的序列化推荐更高效。(3)本文基于上述两个阶段的算法设计和实现了一个基于安卓的新闻推荐系统。系统由前端展示界面和后端服务器系统两部分组成。前端面向用户,收集用户信息,后端进行数据预处理,特征工程,算法优化。本文利用android studio工具渲染前端界面,利用kafka搜集用户信息,利用非关系型数据库mongo DB进行数据存储。通过测试表明系统的可用性和稳定性。
基于Flink的专家智库实时推荐系统的设计与实现
这是一篇关于实时推荐,流计算引擎,多路召回,相似度匹配,专家智库的论文, 主要内容为随着科学技术的蓬勃发展,论文和专利等学术成果与日俱增,但同时也带来了信息过载问题。为了缓解这一问题,专家智库平台应运而生,提供了丰富的学术资源和检索功能。然而,现有的专家智库平台普遍存在强检索弱推荐问题,即使有推荐服务,其策略也往往以领域主题推荐等离线推荐为主,忽视了用户的即时兴趣。此外,专家智库平台的海量学术资源也对推荐系统的性能提出了极高要求。因此,为专家智库平台提供高性能的能捕捉即时兴趣的实时推荐服务,具有极高的价值和意义。针对以上问题,本文设计并实现了基于Flink的专家智库实时推荐系统,重点工作包括以下几个方面:(1)设计并实现了三段式的基于Flink的实时流处理推荐架构方案。该架构方案有效融合了 Lambda架构和Kappa架构的优点,并与基于Storm的Lambda架构方案进行对比实验,实验结果验证了本文架构方案在吞吐量和时延上均有较大提升。(2)提出了面向专家智库的多路召回实时推荐策略。该策略将协同过滤推荐、基于内容的推荐等离线推荐策略与基于热度的推荐、实时协同过滤推荐等实时推荐策略进行结合,并针对专家智库平台多场景推荐特色进行定制化融合策略。最终通过使用平台采集的真实用户数据进行消融实验和分支对比实验,实验结果验证了本文策略在命中率、召回率和NDCG指标上均有所提升。(3)搭建了带实时推荐的专家智库平台。该平台系统使用SpringBoot框架进行后端开发,使用Vue.js和Nuxt.js进行了前端开发,使用MySQL作为关系型数据库,搭建于阿里云ECS服务器上。该平台系统实现了首页推荐功能、项目与研讨功能、检索功能、工作台功能和管理员功能等模块,功能完备。并且,该平台系统经过功能测试与性能测试后已经上线运营。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：源码港湾 ，原文地址：https://bishedaima.com/lunwen/50086.html
