基于深度学习方法的乳腺病理图像分类研究
这是一篇关于乳腺病理图像,良恶性分类,多阶段迁移,注意力机制,图卷积网络,对比学习的论文, 主要内容为乳腺癌严重威胁着女性健康,早期诊断和治疗可以提高患者的生存率。常见的诊断方法包括影像分析和组织活检病理分析,前者包括磁共振成像、乳腺钼靶X线摄影检查等手段。相较于前者,组织活检病理分析作为诊断乳腺癌的“金标准”,可以为医生提供权威的诊断依据。传统的病理诊断通过人工阅片的方式,根据需求在不同倍率图像下进行分析,具有一定主观性和重复性。近年来,人工智能的快速发展为病理诊断提供了新的辅助途径,此方法能够帮助医生提升诊断精度,使诊断结果更科学、客观。其中以深度学习为代表的方法在病理图像良恶性分类领域已经取得了良好进展,但仍存在着一些问题,比较典型的包括:1)由于人工注释乳腺病理组织图像耗时费力,现实中小样本数据集较为常见,导致神经网络容易出现欠拟合和泛化能力低的问题;2)病理图像中的乳腺组织空间信息是病理医生诊断乳腺癌的重要依据之一,卷积神经网络难以充分感知空间信息;3)部分良性肿瘤和恶性肿瘤在病理图像上外观相似,特征差异较小,传统的深度神经网络对特征差异较小的良恶性病理图像区分能力不足。针对上述问题,本文以乳腺病理图像为研究对象,围绕深度学习方法开展良恶性分类研究,具体内容包括:(1)基于多阶段迁移和注意力机制的病理图像良恶性分类研究:针对上述问题1,本文以VGG19和Res Net34为基础,采取多阶段迁移的策略开展研究,分两阶段进行。第一阶段迁移中,根据自然图像和病理图像共享纹理特征等底层信息的特点,通过引入Image Net预训练参数的模型对大规模IDC乳腺病理图像数据集分类训练,使模型初步具备良好的病理特征提取性能。经过上述训练,在第二阶段迁移中,进一步微调模型提升其对小样本数据集的分类性能。在Breakhis数据集上验证,准确率达到了0.895。在VGG19和Res Net34的基础上,引入注意力机制,从图像的通道和空间层次筛选重要信息,提升模型分类性能。该模型在病理图像分类任务上获得了0.888的准确率。将上述两种方法结合,模型最优准确率进一步提升至0.914。(2)基于图卷积网络的病理图像良恶性分类研究:针对上述问题2,本文基于图卷积网络开展研究。通常的图构造方式复杂,本文利用卷积神经网络获取的特征图构造图结构,该结构可以充分的反映病理图像不同区域在空间上的关联性,能够提升模型对空间特征信息的感知能力。普通的图卷积网络卷积层数有限,提取深层次特征的性能较弱。因此利用交替更新机制思想,将卷积层构成一个循环反馈结构,任意两个卷积层之间都可以进行前向传播和后向连接。特征信息在任意层之间传递,通过反复叠加,使网络提取到更深层次的特征。结果表明,该模型的分类准确率达到了0.919。(3)基于对比学习的病理图像良恶性分类研究:针对上述问题3,本文采取对比学习方法开展研究。该方法采用孪生网络计算同一样本的不同增强视图的特征间相似度,能够感知样本间的特征差异。孪生网络学习的特征能很好的体现同类样本特性,进而区分不同类别样本。由于该网络提取细粒度特征的能力有所欠缺,故利用多尺度模块改进特征提取过程,从而获取更准确的细粒度特征。结果表明,基于对比学习的分类模型在乳腺病理图像良恶性分类上达到了0.933的准确率。本文以乳腺病理图像为研究对象,围绕深度学习开展良恶性分类研究。针对目前典型的小样本、空间信息利用不充分、特征差异度小的问题,分别提出了基于多阶段迁移、图卷积网络和对比学习的分类方法。研究结果表明,上述方法在乳腺病理图像良恶性分类中取得了良好的效果,具有积极的临床应用价值。
融合对比学习的图注意力协同过滤算法研究
这是一篇关于推荐系统,图卷积网络,自注意力机制,协同过滤,对比学习,数据增强的论文, 主要内容为随着深度学习的发展,基于深度学习的协同过滤已成为推荐系统的主流算法之一,其中基于图学习的协同过滤算法是该领域的研究热点。现有的基于图学习的协同过滤方法在嵌入过程集成了用户-项目交互的二部图结构,但这种方法存在着过平滑的问题;同时该方法依旧没有缓解数据稀疏和长尾问题,一些冷门商品和用户交互在这种情况下得不到充分学习。针对上述问题,本文主要工作如下:(1)针对传统基于图卷积协同过滤模型存在的过平滑问题,本文提出了基于自注意力机制的图卷积协同过滤模型GACF。在消息传播过程中融合了图注意力机制计算邻居权重,通过注意力系数加权融合用户和物品间的交互编码,从而可以在提高层数提升性能的同时,避免过平滑现象的发生。实验结果表明,该方法能使其NDCG@20和Recall@20在各个数据集上分别提升了1.943%和2.129%。(2)针对推荐系统存在的长尾问题和数据稀疏问题,本文在GACF模型的基础上使用自监督学习对主推荐任务进行预处理,发掘推荐数据上的自监督信号,提出了复合对比学习框架CAGL。首先通过一个图的边预测函数去预测相应的边概率,根据概率矩阵确定性的对边进行丢弃和添加的操作实现数据增强,然后进行多任务学习,分别计算普通的监督学习损失和对比学习损失,联合优化推荐模型。实验结果表明在较大规模数据集Yelp 2018和Alibaba-i Fashion中NDCG@20分别提升了2.79%和2.41%。图[22]表[6]参[71]
基于图卷积网络和神经协同过滤的推荐算法研究
这是一篇关于推荐系统,Top-N推荐,协同过滤,图卷积网络,神经协同过滤的论文, 主要内容为推荐系统(Recommender Systems,RS)是一种个性化的信息过滤工具,能够有效地缓解信息过载问题。Top-N推荐是推荐系统中主要的应用问题之一,其目标是根据目标用户的历史行为(如浏览、点击、收藏以及购买等)和其他相关数据,对候选物品进行排序,并将排在最前面的N个物品推荐给该用户。针对Top-N推荐问题,现有的基于图卷积网络的协同过滤算法侧重于表示学习,往往忽视了对用户和物品匹配函数的学习,其常使用简单的点积运算来对用户和物品之间的交互行为进行建模。而现有的基于神经协同过滤的推荐算法则侧重于匹配函数学习,往往忽视了对用户和物品表示向量的学习,其常使用线性的嵌入层来学习用户和物品的表示。针对基于图卷积网络的推荐算法和基于神经协同过滤的推荐算法各自存在的问题,本文完成了以下工作:第一,本文提出了一种基于图卷积网络的协同过滤算法GCMF(Graph Convolutional Matrix Factorization)以及其变体 GCMF-n(Graph Convolutional Matrix Factorization with normalization)。该类算法认为不同的图卷积层包含了不同的语义信息,而这些信息对不同用户和物品的重要程度各不相同。因此,GCMF和GCMF-n提出为每个用户和物品学习不同的层聚合权重。第二,在GCMF-n的基础上,本文进一步提出了一种基于注意力机制的图卷积协同过滤算法 GCMF-a(Graph Convolutional Matrix Factorization based on Attention Mechanism)。该算法认为每个图卷积层的特征向量都是用户和物品的一种特征,在对用户和物品之间的交互行为进行建模时,不同用户-物品特征对的重要程度各不相同。因此,该算法提出使用注意力机制为不同的用户-物品特征对自适应地分配权重。实验结果表明,和其他对比算法相比,GCMF-a在推荐效果上取得了一定程度的改进。第三,在GCMF和神经协同过滤的基础上,本文进一步提出了一种基于图卷积网络和神经协同过滤的推荐框架 GCN-NCF(Graph Convolutional Network based Neural Collaborative Filtering)。该框架将表示学习和匹配函数学习结合在一起,先利用图卷积网络学习用户和物品的表示向量,然后再使用神经协同过滤框架学习用户和物品之间的匹配函数。同其他对比算法相比,GCN-NCF的实例方法取得了较好的推荐效果。
基于深度学习的网络流量分类系统的研究与实现
这是一篇关于深度学习,网络流量分类,卷积神经网络,图卷积网络的论文, 主要内容为随着整个社会的信息化的不断发展,互联网的规模也在不断增大。研究网络流量分类算法并建立相应的网络流量分类系统能够产生巨大的社会价值以及经济效益,并对通信网的发展具有重大意义。随着互联网技术的不断发展,各种新型的网络应用不断地被开发出来,而且它们自身都具有独特的流量特征,这使得在通信网中进行传输的网络流量数据的特性变得更加复杂,对网络流量进行有效的分类和管理也变得日益困难。通过网络流量分类技术,将通信网中的流量进行分类管理,使得能够精准刻画互联网用户的行为模式、准确分析互联网的未来发展趋势,最终实现网络资源的动态管理和利用率的提升。本文主要研究内容如下:1.提出一种基于卷积注意力机制的网络流量分类算法。一方面,传统的网络流量分类方法主要依赖于网络流量应用层载荷特征的匹配,但由于一些网络流量使用加密技术隐藏了流量的特征,导致该类流量分类方法分类效果的大幅下降。另一方面,基于机器学习的网络流量分类方法需要领域专家对网络流量进行特征设计,这使得该方法泛化性较差并且难以处理复杂的网络协议。因此本文提出了一种基于卷积注意力机制网络的网络流量分类算法。它首先通过对网络流量使用注意力机制来捕获不同字节的重要性,然后使用卷积神经网络学习流量的特征分布,并将学习到的特征表示输入到分类器中获取最终的分类结果。该方法可以从网络流量数据中学习足够的信息,确保分类的准确性,并且在公开网络流量数据集的实验证明了该模型的有效性。2.提出一种基于图卷积网络的网络流量分类算法。网络流量分类任务的可用信息分为两部分:复杂的流量内部特征和多样的网络侧行为。为了充分利用这两部分信息,本文提出了一种基于图卷积网络的网络流量分类算法。该方法首先使用卷积神经网络学习流量的内部特征,然后使用图卷积网络学习网络侧的交互信息,最后将学习到的流量嵌入表示输入到分类器中获得分类结果。该方法通过融合流量的内部特征和网络侧的交互信息,进一步提升了模型的分类性能。3.设计并实现了一个网络流量分析原型系统。网络流量分类的任务不仅需要算法理论的支撑,也需要网络流量分析原型系统作为载体进行落地。本文基于卷积神经网络、注意力机制和图卷积网络等深度学习技术以及SpringBoot和Vue.js等系统开发工具设计并实现了一套基于深度学习的网络流量分析原型系统,来帮助通信网业务人员实现对网络流量的分析,并基于分析结果进行网络资源的管理决策。
基于图神经网络表示学习的协同过滤推荐算法研究
这是一篇关于异构数据,邻域聚合,推荐系统,协同过滤,图卷积网络,高效训练的论文, 主要内容为推荐系统作为一种高效的信息过滤工具,可以有效地缓解“信息过载”问题。协同过滤是推荐系统中使用最广泛的算法,它通过用户的历史行为分析用户偏好,建模用户特征,为用户推荐感兴趣的项目。由于协同过滤需要使用用户的历史行为数据,而这类数据相对于项目数量往往很少,因此协同过滤容推荐面临着严重的数据稀疏问题。最近,由于用户与项目的关联可以构成天然的二分图,基于图神经网络的推荐越来越受到关注。通过用户-项目二分图和图卷积的方法可以有效地丰富目标节点的信息,缓解数据稀疏。但基于图网络推荐仍存在问题:一是图卷积模型过于复杂,在推荐任务中并不能充分发挥其特征变换与非线性激活的作用来挖掘潜在关联;二是在聚合节点信息时,平等地看待各类关系,将他们不加处理直接与目标节点信息进行融合,导致了最终目标特征表达的不合理;三是目前图卷积的消息聚合方式为显式的加和或拼接,这导致了模型训练效率受到影响,在数据集较大时训练变得非常缓慢。另一种缓解数据稀疏的方式是引入辅助信息,如用户的行为信息、时间戳或者用户评论、物品简介等,但是目前使用行为信息的推荐模型仅挖掘了不同行为间的联系而忽略了用户间行为的联系,导致了行为信息不能充分刻画用户兴趣,基于图网络的模型也受制于显式的消息传递算法,模型训练效率不高。针对目前基于神经网络的协同过滤推荐算法中存在的问题,本文的研究内容如下:(1)传统的协同过滤算法使用one-hot编码生成的特征向量信息量稀少,对异构行为数据仅挖掘不同行为间的联系而忽略用户间行为的联系。针对上述问题,文中提出基于异构邻域聚合的协同过滤推荐算法。首先,使用图对用户和项目的异构交互进行建模,并利用图的连通特性构建邻域。然后,使用轻量级图卷积方法整合邻域信息,融入目标用户和目标项目的特征向量。最后,将融合邻域信息的用户与项目的特征向量输入多任务异构网络进行训练,通过丰富特征向量信息的方法缓解数据稀疏问题。在数据集上的实验证实本算法的性能较优。(2)基于图卷积的推荐算法采用的消息传递机制效率不高,导致模型花费大量的时间训练以及传统推荐模型通常仅使用一种用户行为数据训练模型,而单类用户行为无法充分表达用户兴趣。针对上述问题,本文提出了一种融合隐式邻域关联与异构特征的协同过滤推荐算法。首先,通过图对用户与项目的异构交互进行建模,并通过图的连通特性构建邻域;其次,通过隐式邻域聚合算法使得目标特征向量中能够融合更高阶邻域的有效信息,并减少模型训练的开销;然后,通过隐式项目交互为不同的交互关系分配权重,更精确地描述不同关联对用户或项目的重要性;最后,将异构特征输入多任务异构网络,通过融合基于全采样的多任务损失与隐式邻域关联损失优化整个模型。在Movielen-1m,Beibei,Taobao三个数据集上进行实验,使用HR与NDCG指标对模型进行评价,本模型得到的结果对比同类型的其他推荐模型在性能与训练效率上有一定提升。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：源码驿站 ，原文地址：https://bishedaima.com/lunwen/46362.html
