基于GCN/HGNN和3D U-Net的肺结节分类多任务模型研究

这是一篇关于肺结节诊断,迁移学习,多任务学习,图神经网络,超图神经网络,特征融合的论文, 主要内容为肺癌是发病率和致死率最高的癌症,肺癌早期有相当部分表现为肺部结节。肺部结节是胸科常见又较难确诊的疾病,其诊治一直是临床上的难点。由于我国的医疗资源较为紧张,且人工诊断高度依赖医生的工作经验,利用人工智能技术进行肺结节诊断引起了众多研究者的关注。在肺结节分类、检测和分割等任务中,人工智能技术已经取得了实质性的进展。但大多数研究工作并没有充分利用肺结节特征间的相关性,导致了诊断结果的可解释性较差,实际应用前景受到限制。本文首先获取肺结节特征之间的相关性,之后利用该相关性建立图邻接矩阵和超图关联矩阵,随后分别构建图卷积神经网络和超图神经网络,最终设计了两个肺结节分类多任务模型。主要的工作成果如下。(1)开展如何有效地获取肺结节特征之间的相关性研究针对如何有效获取肺结节特征间相关性的问题,本文首先对LIDC-IDRI数据集进行分析,提取了数据集中专家标注的9种肺结节特征。通过对每种特征的等级标注情况进行分析,排除在不同肺结节之间没有显著差异的内部结构特征,最终选择了细致度、圆形度、边缘、分叶征、毛刺征、纹理、恶性度和钙化8种特征进行相关性研究。相关性研究主要工作有:通过求取肺结节特征间相关系数的方法,给出肺结节特征两两之间的相关性大小;构建多阶迁移学习模型,找到每个肺结节特征评分任务的最佳源任务集,分析特征与特征组合之间的相关性。(2)应用肺结节特征间的相关性构建肺结节分类多任务模型针对如何应用肺结节特征间相关性的问题,本文提出了两个多任务模型,分别为基于图卷积神经网络和3D U-Net的肺结节分类多任务模型、基于超图神经网络和3D U-Net的肺结节分类多任务模型。i)构建基于图卷积神经网络和3D U-Net的肺结节分类多任务模型首先使用全连接神经网络获取包含肺结节特征相关关系的初始标签嵌入。之后通过数据驱动、多阶迁移学习和自适应三种方法分别构建能反映肺结节特征相关关系的图邻接矩阵,并设计了融合标签嵌入和图像特征的特征融合模块以及代替U-Net跳跃连接的交叉通道注意力模块,最后提出了基于图卷积神经网络和3D U-Net的肺结节分类多任务模型。实验结果表明,相比于其他现有的模型,提出的基于图卷积神经网络和3D U-Net的肺结节分类多任务模型可以充分利用肺结节特征间的相关关系以及肺结节不同任务间的相似性,更好地完成肺结节的良恶性分类、特征评分和三维分割任务,并且模型同时输出这些任务的诊断结果,为医生提供全面、可信的诊断依据。ⅱ)构建基于超图神经网络和3D U-Net的肺结节分类多任务模型基于图卷积神经网络和3D U-Net的肺结节分类多任务模型存在一些不足之处,在临床诊断中,医生进行肺结节良恶性判别诊断往往是根据多个肺结节特征而不是单独一个特征。然而,图卷积神经网络无法对肺结节特征之间的复杂关系进行建模。为此,进一步提出了使用超图神经网络来对肺结节特征间的高阶相关性进行提取的方法,并通过欧几里得距离、岭回归和多阶迁移学习三种方法分别构建能反映肺结节特征高阶相关性的超图关联矩阵。最终设计基于超图神经网络和3D U-Net的肺结节分类多任务模型。实验结果表明,基于超图神经网络和3D U-Net的肺结节分类多任务模型进一步提高了肺结节分类多任务模型在肺结节良恶性分类、特征评分和三维分割任务上的性能,验证了使用肺结节特征间高阶相关性提高肺结节分类多任务模型性能的有效性。

基于超图神经网络的推荐方法研究

这是一篇关于超图神经网络,推荐系统,会话推荐,协同过滤的论文, 主要内容为随着移动互联网的快速发展,网络中的数据量正在以指数级别快速增长,信息过载问题则随之出现,该问题导致用户很难从互联网海量的产品或服务中找到自己真正感兴趣的。为了提升用户的体验以及企业的经济效益,推荐系统应运而生。一个有效推荐系统的核心是能根据用户历史交互准确建模用户偏好,并根据用户偏好来个性化地向用户推荐物品。现代推荐系统虽然蓬勃发展,但始终受数据稀疏和冷启动问题影响。作为图神经网络的一种,超图神经网络能更好地利用数据中的高阶关联信息,从而有效缓解数据稀疏和冷启动问题。本文分别基于三种不同的推荐任务场景设计了相应的基于超图神经网络的推荐模型,以求达到更优的推荐效果。本文的主要研究内容如下:(1)为了更好地建模知识图谱上实体之间的高阶关联并将之与推荐任务相结合,我们提出了一种知识感知超图神经网络模型。该模型首先根据用户历史交互和知识图谱来构建超边,根据生成的超边为用户和物品构建各自的知识感知超图,然后在超图上采用知识感知超图卷积方法学习得到相应用户或物品最终的嵌入表示。(2)为了更好地捕捉不同物品在会话内及会话间的全局高阶关联信息并将之与会话内物品间的局部关联信息相融合,我们提出了一种基于超图注意力网络的会话推荐模型。该模型首先在会话的局部子图上应用门控图神经网络方法捕捉局部关联信息,接着在会话超边构成的全局超图上应用超图注意力网络方法捕捉全局关联信息,之后将这两种表示信息融合并利用注意力机制捕捉会话序列信息。(3)为了更好地建模用户以及物品之间的高阶关联关系并将其与协同过滤信息相结合,我们提出了一种基于超图注意力网络的协同过滤推荐模型。该模型分别在根据用户历史交互构建的超图和二部图上利用超图注意力卷积方法和图卷积方法捕捉节点间的高阶关联信息和协同过滤信息,并将这两种信息融合并用于推荐。

基于超图神经网络的推荐方法研究

这是一篇关于超图神经网络,推荐系统,会话推荐,协同过滤的论文, 主要内容为随着移动互联网的快速发展,网络中的数据量正在以指数级别快速增长,信息过载问题则随之出现,该问题导致用户很难从互联网海量的产品或服务中找到自己真正感兴趣的。为了提升用户的体验以及企业的经济效益,推荐系统应运而生。一个有效推荐系统的核心是能根据用户历史交互准确建模用户偏好,并根据用户偏好来个性化地向用户推荐物品。现代推荐系统虽然蓬勃发展,但始终受数据稀疏和冷启动问题影响。作为图神经网络的一种,超图神经网络能更好地利用数据中的高阶关联信息,从而有效缓解数据稀疏和冷启动问题。本文分别基于三种不同的推荐任务场景设计了相应的基于超图神经网络的推荐模型,以求达到更优的推荐效果。本文的主要研究内容如下:(1)为了更好地建模知识图谱上实体之间的高阶关联并将之与推荐任务相结合,我们提出了一种知识感知超图神经网络模型。该模型首先根据用户历史交互和知识图谱来构建超边,根据生成的超边为用户和物品构建各自的知识感知超图,然后在超图上采用知识感知超图卷积方法学习得到相应用户或物品最终的嵌入表示。(2)为了更好地捕捉不同物品在会话内及会话间的全局高阶关联信息并将之与会话内物品间的局部关联信息相融合,我们提出了一种基于超图注意力网络的会话推荐模型。该模型首先在会话的局部子图上应用门控图神经网络方法捕捉局部关联信息,接着在会话超边构成的全局超图上应用超图注意力网络方法捕捉全局关联信息,之后将这两种表示信息融合并利用注意力机制捕捉会话序列信息。(3)为了更好地建模用户以及物品之间的高阶关联关系并将其与协同过滤信息相结合,我们提出了一种基于超图注意力网络的协同过滤推荐模型。该模型分别在根据用户历史交互构建的超图和二部图上利用超图注意力卷积方法和图卷积方法捕捉节点间的高阶关联信息和协同过滤信息,并将这两种信息融合并用于推荐。

基于图神经网络的文本分类方法研究

这是一篇关于地理信息文本,用户检索日志,文本分类,图注意力网络,超图神经网络的论文, 主要内容为文本分类是自然语言处理领域的重要分支,近年来吸引了众多科研工作者的关注。由于文本数据易于编辑等特点,网络中大部分文本是由用户手动构建并上传。因此,对网络文本的规范化处理并进行不同粒度的文本分类对信息检索领域有着至关重要的意义。传统的文本分类是将文本作为序列化的信息来进行处理,使用一条文本中前面的序列预测后面的序列、通过中心词对上下文进行预测等方式,使分类器在继承旧序列信息的同时学习新序列的知识,从而编码整个文本序列的信息。由于文本类数据集中不仅包含有序列信息,文本之间还隐含着类似图结构的相互作用关系,例如:知识图谱、社交网络等。为了对此类信息进行建模,近几年,基于图神经网络的文本建模方法逐渐引起了研究者的注意,该类网络能够将序列化的文本数据构建为图结构数据,将文本中的字、词乃至整条文本作为图的节点,文本之间的相互作用关系作为边,通过节点之间的边传递信息以特征聚合。基于上述所说,本文以图神经网络为研究方法,地理文本和用户检索日志文本作为研究对象进行文本分类任务。本文的主要研究内容如下:(1)针对地理文本的二分类问题,本文提出了一种基于注意力机制的图神经网络。该方法首先将地理文本中的地理信息构建为具有全局信息的图结构文本,然后在图卷积网络的基础上引入了注意力机制对地理文本中的地理信息赋予更高的权重,增强图注意力网络捕获文本中关键信息的能力,实现从网络数据中识别出蕴含地理信息的地理文本,本质上属于文本二分类任务。为了验证上述两种方法的有效性,本文构建了包含地理信息的文本二分类数据集用于验证图注意力网络的有效性,为了使模型识别含有地理信息的文本,总结了现有公开的中文数据集,手动标注并构建了适用于地理文本分类的中文数据集。(2)针对用户检索日志文本的多分类问题,本文提出了一种基于分散-聚合的超图神经网络。该模型的目标是利用用户在搜索引擎中输入的检索文本配合检索结果来识别用户真实的检索意图,本质上属于文本多分类任务。该方法还解决了对大规模用户检索日志文本数据建模的问题,同时能够识别文本间的高阶语义信息来完成文本多分类。模型将百万级别的数据集分为多个小型的子数据集,对每个子数据集构建超图并在隐式特征水平聚合,通过分散-聚合的方法不仅完成了大规模的用户意图识别任务,还能够生成全量数据集的全局特征表示。为了验证模型的有效性,本文构建了包含多属性用户搜索日志的文本多分类数据集。数据集包含300万用户搜索引擎中的搜索日志,每条日志包含文本字段和标签字段。此数据用于验证超图网络模型生成全局特征和高精度文本分类的能力。

基于图神经网络的推荐算法研究

这是一篇关于图卷积神经网络,图数据增强,注意力机制,门控机制,超图神经网络,推荐模型的论文, 主要内容为推荐系统发挥在提升网络产品的用户体验发挥着日益重要的作用。推荐系统的本质是对用户画像进行刻画,预测用户可能会交互的项目。虽然基于协同过滤的推荐模型一直是基本范式,但模型性能提升的关键还是建模用户和项目之间的协作信号。由于图神经网络的推荐算法在捕获用户和项目之间的协作信号上具有优势,将图神经网络与推荐任务相结合成为了研究热点。在以往的研究工作发现,图神经网络在编码节点特征时存在着一些问题,本文就这些问题展开研究。在图神经网络与推荐任务相结合时,一方面会出现由于历史交互数据中的噪声导致在构建交互图存在无用链接的问题。另外一方面图卷积神经网络在进行嵌入传播时依据图结构识别各个邻居的重要性会妨碍图节点进行表示学习。为此提出了基于图对比学习和注意力机制的推荐模型。在模型中,图节点随机退出、连接边随机丢失和随机游走这三种图数据增强策略以降低噪声数据在图嵌入传播中的影响。模型在图卷积神经网层融合注意力机制以动态分配不同节点邻居的权重,提升了图卷积神经网络的节点特征表示能力。基于图卷积神经网络的推荐模型在叠加过多的图卷积层时会使得节点特征出现过度平滑效应,另外基于二部图的嵌入传播方式也会使得模型无法学习到用户节点和项目节点的全局协同信号。为此提出了基于门控机制的超图神经网络推荐模型。该模型在普通图嵌入传播的基础上加入超图嵌入传播,使节点同时获得局部协同关系和全局协作信号。该模型中的门控机制可以改善图节点特征的迭代更新机制,该机制可以抑制节点出现过度平滑效应,让节点特征在迭代更新中保留更加有效的特征成分。本文提出的两种模型在公开的数据集上验证了推荐性能上的提升,并通过消融实验,验证了模型各个模块的有效性。

基于图神经网络的会话推荐算法研究

这是一篇关于超图神经网络,深度学习,注意力机制,会话推荐,多会话感知的论文, 主要内容为个性化推荐已广泛应用于电子商务、广告和社交媒体等领域,其核心是利用用户的历史交互信息来预测用户是否会喜欢某种商品或服务。基于会话的用户行为预测是网络行为建模中的一个难点,主要原因是用户行为的不确定性和信息的有限性。近年来,由于其可以给用户呈现有用的个性化信息从而大幅度提升用户的体验和改善企业利润,使得这一由现实世界所驱动的经典问题成为当下工业界和学术界研究的热点。图神经网络已成为推荐系统研究的新方向。然而现有图结构推荐方法只考虑简单的二元关系,无法建模对象间的复杂多元关系。此外,不同顺序的物品可能构建相同的拓扑关系,限制了获取会话精确向量表示的能力。同时,现有研究只聚焦于物品序列的转移关系,忽略了用户其他类型的行为,如选择特定类别信息下的物品。因此,本文针对会话推荐进行研究,旨在解决上述局限性:(1)针对传统图神经网络结构仅考虑成对的物品转换关系,无法建模高阶数据相关性的问题,本文提出了一种基于多重会话感知的超图推荐算法,利用超图神经网络捕捉物品之间复杂的多元关系,解决传统图神经网络结构的局限性。同时,将共现图与局部会话图相结合,既考虑了会话内部信息,又考虑了会话间信息,进而挖掘用户和物品之间的相似性,提高了会话精准表示的能力。最后,在Diginetica、Nowplaying和Tmall数据集上进行实验评估,P@20分别达到了53.36%、23.88%和34.63%,实验结果证明了本方法在解决会话推荐问题时具备先进性和实用性。(2)针对传统会话推荐算法仅聚焦于会话序列内部物品的交互转移关系,缺乏对给出特定类别信息并推荐该类别下物品这一现实世界中常见场景的研究,本文提出了一种基于类别上下文信息感知的会话推荐算法,利用用户指定的目标类别和物品自身的类别属性,在特定的目标类别中推送潜在的兴趣物品给用户,使得最终结果更符合用户的预期。最后,在指定类别域环境下,本方法在Diginetica、Yoochoose以及Jdata下P@20分别达到了44.12%,21.51%和51.81%,这些结果表明本模型在指定类别域下的推荐准确性上具有显著优势。(3)基于上述主要研究内容和贡献,本文设计了一种基于会话推荐算法的应用系统,将本文所设计的会话推荐算法应用在该系统中,通过实验测试,本文所提出的算法能够在一定程度上帮助用户缓解信息过载问题。

基于自监督学习和超图表示的群组推荐算法研究与实现

这是一篇关于群组推荐,超图表示学习,超图神经网络,自监督学习的论文, 主要内容为随着互联网的兴起,人们每天都要面临数以万计的信息,推荐系统在帮助用户过滤冗余信息方面起着举足轻重的作用。互联网的兴起也使得在线社交网络和在线社区快速发展,兴趣相近的用户形成了各种各样的社区或群体,在线群体活动越发普遍。面对生活中丰富多彩的信息,传统的个性化推荐系统已经不能满足用户的需求,面向群组的推荐系统收到了广泛的关注。区别于传统的个性化推荐系统中向单一用户进行推荐,群组推荐系统的目标对象变为一组内的多个用户,旨在构建一个满足大多数群体成员偏好的推荐系统。因此,如何融合群组成员的偏好是组推荐的难点。之前的群组推荐模型多采用基于预定义规则的偏好融合策略,如均值融合、最小痛苦融合和最大满意度融合,这些模型忽略了成员在群组中的不同角色,更没有考虑成员偏好受到其他用户的影响而发生变化,导致无法准确预测群组真实偏好。此外,在真实生活中,人们以群组形式参与活动的交互次数很少,引入其他辅助信息解决数据稀疏问题会耗费较多资源,且不适用无法获得辅助信息的模型。针对以上分析,研究面向临时群组的推荐模型存在以下难点:(1)临时群组中历史交互数据相对稀疏,导致预测群组偏好困难;(2)成员偏好易受他人影响,导致用户偏好预测困难;(3)群组内成员偏好融合过程复杂且动态,导致模拟群组决策困难。为解决上述难点,本文提出基于超图和自监督学习的群组推荐模型。本文主要工作如下:阐述了群组推荐系统的研究背景、意义和研究现状,结合群组推荐、超图表示学习和自监督学习的技术与理论,分析了当前群组推荐模型研究面临的问题和不足;设计多个基于超图的辅助任务实现数据增强,包括:基于节点扰动的辅助任务、基于超边的辅助任务和基于子图的辅助任务,通过超图神经网络学习不同辅助任务下的超图表示,并利用对比学习捕捉用户节点的准确特征,最后将优化的节点向量表示应用于推荐任务中,验证所设计辅助任务的有效性,为解决难点(1)奠定理论基础;形式化地给出了群组超图表示,用超边连接组内多个用户,模拟用户之间高阶交互关系,学习用户偏好之间的相互影响,解决难点(2);采用基于注意力机制的偏好融合模型,学习组内成员的不同权重,模拟复杂决策过程,解决难点(3);设计多粒度节点扰动自监督策略和群组-用户最大化互信息策略,优化用户和群组的向量表示以解决难点(1)。通过大量基于公开数据集的实验,证明了所提算法的优异性,并进一步分析了所提算法能取得优异性能的原因;根据所提模型设计并实现了一个基于多粒度超图自监督学习的群组歌曲推荐系统,包括群组划分、群组歌曲推荐和模型性能展示等功能,向群组推荐可能感兴趣的歌曲。

基于自监督学习和超图表示的群组推荐算法研究与实现

这是一篇关于群组推荐,超图表示学习,超图神经网络,自监督学习的论文, 主要内容为随着互联网的兴起,人们每天都要面临数以万计的信息,推荐系统在帮助用户过滤冗余信息方面起着举足轻重的作用。互联网的兴起也使得在线社交网络和在线社区快速发展,兴趣相近的用户形成了各种各样的社区或群体,在线群体活动越发普遍。面对生活中丰富多彩的信息,传统的个性化推荐系统已经不能满足用户的需求,面向群组的推荐系统收到了广泛的关注。区别于传统的个性化推荐系统中向单一用户进行推荐,群组推荐系统的目标对象变为一组内的多个用户,旨在构建一个满足大多数群体成员偏好的推荐系统。因此,如何融合群组成员的偏好是组推荐的难点。之前的群组推荐模型多采用基于预定义规则的偏好融合策略,如均值融合、最小痛苦融合和最大满意度融合,这些模型忽略了成员在群组中的不同角色,更没有考虑成员偏好受到其他用户的影响而发生变化,导致无法准确预测群组真实偏好。此外,在真实生活中,人们以群组形式参与活动的交互次数很少,引入其他辅助信息解决数据稀疏问题会耗费较多资源,且不适用无法获得辅助信息的模型。针对以上分析,研究面向临时群组的推荐模型存在以下难点:(1)临时群组中历史交互数据相对稀疏,导致预测群组偏好困难;(2)成员偏好易受他人影响,导致用户偏好预测困难;(3)群组内成员偏好融合过程复杂且动态,导致模拟群组决策困难。为解决上述难点,本文提出基于超图和自监督学习的群组推荐模型。本文主要工作如下:阐述了群组推荐系统的研究背景、意义和研究现状,结合群组推荐、超图表示学习和自监督学习的技术与理论,分析了当前群组推荐模型研究面临的问题和不足;设计多个基于超图的辅助任务实现数据增强,包括:基于节点扰动的辅助任务、基于超边的辅助任务和基于子图的辅助任务,通过超图神经网络学习不同辅助任务下的超图表示,并利用对比学习捕捉用户节点的准确特征,最后将优化的节点向量表示应用于推荐任务中,验证所设计辅助任务的有效性,为解决难点(1)奠定理论基础;形式化地给出了群组超图表示,用超边连接组内多个用户,模拟用户之间高阶交互关系,学习用户偏好之间的相互影响,解决难点(2);采用基于注意力机制的偏好融合模型,学习组内成员的不同权重,模拟复杂决策过程,解决难点(3);设计多粒度节点扰动自监督策略和群组-用户最大化互信息策略,优化用户和群组的向量表示以解决难点(1)。通过大量基于公开数据集的实验,证明了所提算法的优异性,并进一步分析了所提算法能取得优异性能的原因;根据所提模型设计并实现了一个基于多粒度超图自监督学习的群组歌曲推荐系统,包括群组划分、群组歌曲推荐和模型性能展示等功能,向群组推荐可能感兴趣的歌曲。

基于语义引导的多场景化推荐系统

这是一篇关于多场景推荐,多行为推荐,超图神经网络,对比学习,数据去噪的论文, 主要内容为互联网的迅速发展给用户生活提供了丰富多样的信息内容,但同时也让用户埋没在了海量信息数据中,无法从中快速且精准的找到自己兴趣点。为了缓解信息过载问题,研究者们设计了一系列智能化推荐系统,帮助用户在海量信息中找到自己的兴趣点。然而,现有推荐系统技术在从用户的历史交互数据中挖掘用户的兴趣偏好时,忽略了用户与商品产生交互时用户所处的时间、地点、天气等可能影响用户偏好的背景因素和用户行为的多样性,且疏忽了用户历史行为交互数据中存在噪声和偏差问题,从而导致对用户的偏好学习不全面、与用户真实偏好存在偏差,进而影响推荐效果。近些年,各大电商平台为了满足用户在不同情形下的推荐需求,引入了“场景”的概念来为用户的偏好推断提供更细粒度的指导。场景是一系列具有语义信息的场景因素的组合,如时间、地点、用户不同类型的交互行为等场景因素的组合,这样的组合通常能够表示用户在某些情形下的特定意图。为进一步挖掘用户在不同场景中的推荐需求,并从用户多行为隐式反馈数据中挖掘用户的真实意图,给用户提供准确高效的个性化推荐服务,本文从场景的语义信息出发,围绕场景的标签语义信息和用户在场景中的多行为语义信息展开研究,并分别在多场景推荐任务和多行为推荐任务中提出了基于场景标签语义联系的多场景推荐系统模型(Semantic-guided Hypergraph Neural Network,SHNN)和基于用户多行为语义对齐的多场景推荐系统框架(Multi-Behavior Alignment,MBA)。SHNN基于大规模自然语言预训练模型,利用场景标签语义信息构建了场景之间的语义联系,并通过超图卷积网络在场景间跨场景迁移用户偏好,同时设计了自监督任务来缓解场景间数据不平衡带来的表示不充分的问题。MBA基于Kullback-Leibler divergence(KL散度)对齐用户不同行为下的语义信息,通过使用多种类型的用户行为数据推断出用户的真实偏好,在执行数据去噪的同时,在用户不同行为偏好与用户真实偏好之间实现有效的知识迁移。在多场景推荐任务上,由于相关数据集匮乏,本文在中国电商平台中收集了大规模多场景数据集并进行了大量实验分析。在多行为推荐任务上,本文使用两个公开的基准数据集和本文在中国电商平台中收集的大规模多行为数据集进行了大量实验分析。与现有方法相比,SHNN和MBA分别在多场景推荐任务和多行为推荐任务中有显著的效果提升。本文额外设计了相关的分析实验,以解释场景标签语义信息和用户多行为语义信息对于多场景推荐系统的影响。