基于元对比学习的冷启动推荐算法研究
这是一篇关于冷启动推荐,元学习,对比学习,异构图的论文, 主要内容为随着互联网的发展,信息过载问题也越来越严重,能够帮助用户过滤大量的信息找到合适内容的推荐系统也变得越来越重要。但是当新用户和新内容加入系统时,冷启动问题也随之出现。传统的推荐算法通常需要大量的交互历史来进行训练,但是在冷启动场景下用户交互历史数据非常的稀疏,传统的推荐算法无法学习到准确的向量表示,也会因为缺少足够的监督信号而产生严重的过拟合问题。目前缓解冷启动问题的方法主要分为数据角度和模型角度两类。基于数据角度的方法主要通过挖掘更多的可利用信息来缓解冷启动问题。最近,基于异构信息网络的方法由于能够提供丰富的辅助信息而备受关注。然而,在缺少监督数据的情况下,模型无法准确的利用异构图上挖掘到的大量信息,生成的用户和内容的向量表示不够准确,导致推荐结果准确率下降。针对以上问题本文设计了一个异构图多角度对比学习信息挖掘模型来有效的利用异构图上的丰富信息,本文首先通过利用多角度的元路径携带不同信息的特点设计更有效的正负例生成方式,之后对比学习在小数据情况下指导模型更精准的利用用户和内容最相关的特征信息,生成更准确的向量表示,提升推荐模型预测准确度。同时最近的一些研究也尝试从模型角度缓解冷启动问题,元学习模型通过共享所有用户的知识为当前用户构建可以利用的先验知识来缓解冷启动问题。大多数现有的元学习算法都假设先验知识可以在所有用户之间全局共享,然而在兴趣差别巨大的用户之间进行信息共享是无效的并且会带来负面的效果,这导致了模型的次优解。为了解决上述问题,本文提出了基于聚类的元学习算法,尝试仅在具有相似兴趣的用户之间进行细粒度的知识共享。本文首先提出了冷启动场景下的用户聚类方法,然后利用用户的类别信息设计了一个转换网络,将通过元学习方法学习到的全局初始化参数转换为类最优初始化参数。通过这种方式可以按照用户的相似度进行不同程度的信息共享,减少偏好差异较大的用户之间信息共享带来的负面影响,提高元学习模型的性能。为了验证元对比学习模型算法的有效性,本文在MovieLens和DBook两个数据集上进行实验。相比于主流算法(MELU)其中MovieLens中用户和项目冷启动场景下,mae下降11.2%;rmse下降7.8%;ndcg上升2.2%。DBook中用户与项目冷启动场景下,mae下降13.3%;rmse下降13%;ndcg上升6.6%。元对比学习模型算法在多数据集多种指标上都有明显提升。
基于深度学习和行为序列的电影推荐系统研究与实现
这是一篇关于电影推荐,用户行为序列,时间权值,GRU,冷启动推荐,MLP的论文, 主要内容为近年来,互联网技术的迅猛发展,导致信息过载。与此同时,用户的需求也越来越多样化、个性化。推荐系统作为信息过滤技术之一,面临着过于依赖用户显性反馈的问题,同时忽视了冷启动对于用户留存的影响。为此,本文研究并提出了一种基于用户行为序列的推荐算法和一种针对新用户的冷启动电影推荐算法。本文的具体研究内容如下:(1)阐述了课题的背景和研究意义,分析了传统的推荐算法,包括协同过滤推荐算法的不足,同时研究了基于深度学习和基于行为序列的各种推荐算法的国内外研究现状和优缺点。(2)在实际推荐应用中,随着时间的推移,用户的兴趣会发生相应的变化,而愈接近当前时刻的历史行为对当前时刻的兴趣状态的影响愈大。但已有的GRU模型只能通过历史行为推断出最终的兴趣,并未考虑到历史行为对最终兴趣的影响存在着随时间衰减这一特性。本文首先提出的一种改进模型——TGRU将时间权值与GRU模型相融合,以此获得更加精确的兴趣表达。此外,使用AUGRU模型捕捉与最终兴趣相关的那些兴趣的演化过程,从而预测用户未来的兴趣。基于上述成果与分析,本文最终提出一种融合时间权值和用户行为序列的电影推荐模型——MRTUB,该模型较为全面地考虑到了用户兴趣的提取及演化过程。实验结果表明,本文所提出的MRTUB电影推荐模型相比于GRU的各种叠加模型而言,效果更优。(3)针对目前的冷启动推荐过于依赖用户评分数据的问题,本文将输入特征聚焦在用户特征和电影特征上,使用深度学习计算用户相似度,以及进行用户和电影的特征融合,提出了基于相似度计算和MLP网络的冷启动电影推荐模型RM-SC-MLP。模型使用用户特征信息和MLP计算用户间的整体相似度,根据相似用户的交互电影得到新用户的候选电影集,然后基于深度学习进行用户特征和电影特征的提取及融合,最后得到预测评分。实验结果表明,本文所提出的冷启动电影推荐算法相比于其他冷启动方法而言,计算结果更为准确。(4)利用本文提出的两种推荐算法,结合不同的推荐场景,使用Vue和Spring Boot框架设计和实现一个电影推荐系统。
基于图卷积网络的冷启动推荐算法研究
这是一篇关于冷启动推荐,知识蒸馏,图卷积网络,注意力机制的论文, 主要内容为冷启动问题是推荐系统中长期存在的难题,新用户或新产品出现时,要求在没有历史交互记录的情况下进行个性化推荐。基于协同过滤的推荐算法广泛部署于各类在线平台,而新用户或新产品没有协同信息,因此精准的推测新用户偏好以及表征新产品变得更加困难。鉴于属性信息在大多数在线平台中可获取,传统的冷启动推荐算法通过学习协同信号表征空间和属性表征空间之间的联系来提升性能,但仍然存在一些问题:(1)传统的冷启动推荐方法简单概括空间转换,然后建模协同信号表征空间和属性表征空间之间的关系,这导致难以捕捉两个语义空间之间的复杂高阶关系;(2)传统的冷启动推荐方法通过手动设置模型输出层的学习目标来建模协同信号与属性语义空间的联系,可能导致语义差距过大,忽视了迭代过程中中间层语义空间的联系。针对于上述问题,本文基于图卷积网络和知识蒸馏提出了两种新的冷启动推荐框架,具体包括:(1)提出了一种基于图卷积网络进行知识蒸馏的冷启动推荐方法。鉴于用户-产品交互行为和用户、产品的属性自然地构成了一种异构图结构,该研究针对基于属性的冷启动推荐方法中出现的表征空间转换问题,提出了图卷积蒸馏模型PGD(Privileged Graph Distillation Model)。该模型由两部分构成:1)教师模型由用户-产品-属性异构图组成,其中包括了用户与产品交互记录构成的协同链接,通过融入异构图中复杂的高阶特征以学习更好用户、产品表征。2)学生模型由一个没有协同链接的实体-属性组成。PGD模型通过蒸馏协同信号和图结构的高阶信息以更好的表征新用户和新产品,而不是依赖于简单的空间转换函数。真实数据集上的实验结果验证了提出方法的有效性。(2)提出了一种基于注意力机制进行多层蒸馏的冷启动推荐方法。图卷积网络在更新过程中聚合了不同层次的邻居信息,而PGD模型没有充分蒸馏中间层知识来进一步提高预测准确度。现有多层蒸馏方法大多数需要手动设置蒸馏层匹配和相应的权重,存在语义空间差距大的问题,难以蒸馏图卷积网络不同层次的信息。受到注意力机制的启发,笔者引入注意力机制进行多层蒸馏冷启动推荐,提出了注意力图卷积多层蒸馏模型Att PGD(Attention based Privileged Graph Distillation Model)。该模型通过自动分配不同蒸馏层的权重,以使得多层蒸馏输出知识最大化适用于冷启动推荐预测任务,从而优化对新用户和新产品的推荐性能。真实数据集上的实验结果验证了提出方法的有效性。
基于深度学习和行为序列的电影推荐系统研究与实现
这是一篇关于电影推荐,用户行为序列,时间权值,GRU,冷启动推荐,MLP的论文, 主要内容为近年来,互联网技术的迅猛发展,导致信息过载。与此同时,用户的需求也越来越多样化、个性化。推荐系统作为信息过滤技术之一,面临着过于依赖用户显性反馈的问题,同时忽视了冷启动对于用户留存的影响。为此,本文研究并提出了一种基于用户行为序列的推荐算法和一种针对新用户的冷启动电影推荐算法。本文的具体研究内容如下:(1)阐述了课题的背景和研究意义,分析了传统的推荐算法,包括协同过滤推荐算法的不足,同时研究了基于深度学习和基于行为序列的各种推荐算法的国内外研究现状和优缺点。(2)在实际推荐应用中,随着时间的推移,用户的兴趣会发生相应的变化,而愈接近当前时刻的历史行为对当前时刻的兴趣状态的影响愈大。但已有的GRU模型只能通过历史行为推断出最终的兴趣,并未考虑到历史行为对最终兴趣的影响存在着随时间衰减这一特性。本文首先提出的一种改进模型——TGRU将时间权值与GRU模型相融合,以此获得更加精确的兴趣表达。此外,使用AUGRU模型捕捉与最终兴趣相关的那些兴趣的演化过程,从而预测用户未来的兴趣。基于上述成果与分析,本文最终提出一种融合时间权值和用户行为序列的电影推荐模型——MRTUB,该模型较为全面地考虑到了用户兴趣的提取及演化过程。实验结果表明,本文所提出的MRTUB电影推荐模型相比于GRU的各种叠加模型而言,效果更优。(3)针对目前的冷启动推荐过于依赖用户评分数据的问题,本文将输入特征聚焦在用户特征和电影特征上,使用深度学习计算用户相似度,以及进行用户和电影的特征融合,提出了基于相似度计算和MLP网络的冷启动电影推荐模型RM-SC-MLP。模型使用用户特征信息和MLP计算用户间的整体相似度,根据相似用户的交互电影得到新用户的候选电影集,然后基于深度学习进行用户特征和电影特征的提取及融合,最后得到预测评分。实验结果表明,本文所提出的冷启动电影推荐算法相比于其他冷启动方法而言,计算结果更为准确。(4)利用本文提出的两种推荐算法,结合不同的推荐场景,使用Vue和Spring Boot框架设计和实现一个电影推荐系统。
基于边缘信息的门控图神经网络会话型推荐
这是一篇关于边缘信息,冷启动推荐,会话推荐,门控图神经网络,个性化习题的论文, 主要内容为推荐系统已成为购物网站、在线教育、短视频等领域的应用热点,在线用户交互数据量过少或过多都会增加推荐的难度,造成推荐系统中的冷启动问题和重复推荐问题。以往的研究忽视了用户的边缘信息、群组用户和会话之间的潜在联系,导致冷启动和重复推荐问题难以得到有效解决,本文以中国互联网信息中心提供的用户在线行为数据集和某计算机课程测评习题数据集作为基础,提出利用边缘信息、群组和会话结合来研究上述问题,主要研究内容如下:1.提出了基于边缘信息的会话型推荐系统冷启动算法E-CGNN。通过对用户项目属性信息进行热编码;改进自编码器对冷启动用户进行属性重构造,得到用户节点嵌入向量;引入会话推荐的方法进行训练,得到用户对站点的预测评分,根据其预测评分的大小为新用户做出精准的推荐,实现E-CGNN算法。实验表明,E-CGNN算法比冷启动自适应算法(PNMTA)在均方根误差和平均绝对误差上降低了2%和5%,推荐性能有了提升。2.提出了基于边缘信息的会话型推荐算法E-SGNN。首先根据边缘信息对相似用户进行聚类,将其划分为不同的用户群体,构建会话-用户-站点关系图,然后对关系图中的数据特征进行提取,再通过GGNN进行重置和更新,得到用户的历史行为特征向量和当前行为特征向量;其次引入自注意力机制调整用户的当前偏好和历史偏好的比例;最后,利用线性变换和softmax分类器得到排名分数,实现E-SGNN算法。实验表明,E-SGNN算法比跨会话信息推荐算法(FGNN-SG)在召回率和平均倒数排名上提升了3.13%和1.24%,推荐效果得到改善。3.提出基于边缘信息的会话型个性化习题推荐算法E-SGNN-PER。利用E-SGNN算法,在个性化习题推荐中重新定义该算法中会话、用户和站点的意义,利用知识点的集合代替了E-SGNN算法中的会话部分,完成了E-SGNN-PER算法。实验表明,在Exercise数据集上,E-SGNN-PER算法比基于知识图谱增强的多任务特征学习推荐算法(MKR)在召回率和精确率上提升了2.12%和1.2%。
基于边缘信息的门控图神经网络会话型推荐
这是一篇关于边缘信息,冷启动推荐,会话推荐,门控图神经网络,个性化习题的论文, 主要内容为推荐系统已成为购物网站、在线教育、短视频等领域的应用热点,在线用户交互数据量过少或过多都会增加推荐的难度,造成推荐系统中的冷启动问题和重复推荐问题。以往的研究忽视了用户的边缘信息、群组用户和会话之间的潜在联系,导致冷启动和重复推荐问题难以得到有效解决,本文以中国互联网信息中心提供的用户在线行为数据集和某计算机课程测评习题数据集作为基础,提出利用边缘信息、群组和会话结合来研究上述问题,主要研究内容如下:1.提出了基于边缘信息的会话型推荐系统冷启动算法E-CGNN。通过对用户项目属性信息进行热编码;改进自编码器对冷启动用户进行属性重构造,得到用户节点嵌入向量;引入会话推荐的方法进行训练,得到用户对站点的预测评分,根据其预测评分的大小为新用户做出精准的推荐,实现E-CGNN算法。实验表明,E-CGNN算法比冷启动自适应算法(PNMTA)在均方根误差和平均绝对误差上降低了2%和5%,推荐性能有了提升。2.提出了基于边缘信息的会话型推荐算法E-SGNN。首先根据边缘信息对相似用户进行聚类,将其划分为不同的用户群体,构建会话-用户-站点关系图,然后对关系图中的数据特征进行提取,再通过GGNN进行重置和更新,得到用户的历史行为特征向量和当前行为特征向量;其次引入自注意力机制调整用户的当前偏好和历史偏好的比例;最后,利用线性变换和softmax分类器得到排名分数,实现E-SGNN算法。实验表明,E-SGNN算法比跨会话信息推荐算法(FGNN-SG)在召回率和平均倒数排名上提升了3.13%和1.24%,推荐效果得到改善。3.提出基于边缘信息的会话型个性化习题推荐算法E-SGNN-PER。利用E-SGNN算法,在个性化习题推荐中重新定义该算法中会话、用户和站点的意义,利用知识点的集合代替了E-SGNN算法中的会话部分,完成了E-SGNN-PER算法。实验表明,在Exercise数据集上,E-SGNN-PER算法比基于知识图谱增强的多任务特征学习推荐算法(MKR)在召回率和精确率上提升了2.12%和1.2%。
基于图神经网络的冷启动推荐算法研究
这是一篇关于多视角,去噪图自编码器,异构信息网络,冷启动推荐的论文, 主要内容为随着电子商务和社交媒体平台的快速发展,推荐系统已成为许多企业不可或缺的工具,它能有效帮助用户缓解信息过载问题,帮助他们从海量的项目中探索他们感兴趣的内容。冷启动推荐问题是指新用户和新项目刚进入系统时,如何给该新用户推荐满意的项目,或将该新项目推荐给合适的用户的问题。新用户、新项目是持续产生的,对互联网产品来说是常态、无法避免的。由于缺乏用户与项目之间的交互信息,传统的协同过滤方法无法在新项目和新用户的情况下提供有效的推荐,因此冷启动推荐是一个具有挑战性的问题。近年来,基于异构信息网络的推荐方法使用丰富的辅助信息来加强用户和项目之间的联系,帮助缓解冷启动问题。尽管这些方法取得了一定的进展,但现有的大多数方法都是在传统的监督学习设置下对异构信息网络进行建模,而忽略了冷启动场景下训练和推理之间的差距。本文将冷启动推荐视为一个数据缺失问题,即一些用户和项目的交互数据是缺失的。受去噪自编码器的启发,本文基于异构信息网络提出了一个新的模型,称为多视角去噪图自编码器(Multi-view Denoising Graph Auto-Encoders,MvDGAE)。具体来说,首先在异构信息网络上基于元路径抽取多种语义信息,作为用户和项目的多视角信息,有效地增强用户/项目在不同方面的关系。然后,通过在编码器中随机丢弃一些用户与项目的交互数据来进行训练,同时迫使解码器使用这些有限的视角来恢复完整的视角,包括缺失的视角。这样一来,用户和项目的表示聚合了更多的信息,也更能适应冷启动的情况。其中,解码器的重构目标是由多视角抽取出来的用户-用户和项目-项目关系图,而不是原始的输入图,这使得元路径中相似用户(或项目)学习到的表示更加接近。最后,采用贝叶斯任务权重学习器来自动平衡多个视角的图重构目标。通过多个数据集的离线实验和线上A/B测试,结果表明本文提出的模型在冷启动以及非冷启情况下对比其他推荐算法均取得了优异的效果。
基于边缘信息的门控图神经网络会话型推荐
这是一篇关于边缘信息,冷启动推荐,会话推荐,门控图神经网络,个性化习题的论文, 主要内容为推荐系统已成为购物网站、在线教育、短视频等领域的应用热点,在线用户交互数据量过少或过多都会增加推荐的难度,造成推荐系统中的冷启动问题和重复推荐问题。以往的研究忽视了用户的边缘信息、群组用户和会话之间的潜在联系,导致冷启动和重复推荐问题难以得到有效解决,本文以中国互联网信息中心提供的用户在线行为数据集和某计算机课程测评习题数据集作为基础,提出利用边缘信息、群组和会话结合来研究上述问题,主要研究内容如下:1.提出了基于边缘信息的会话型推荐系统冷启动算法E-CGNN。通过对用户项目属性信息进行热编码;改进自编码器对冷启动用户进行属性重构造,得到用户节点嵌入向量;引入会话推荐的方法进行训练,得到用户对站点的预测评分,根据其预测评分的大小为新用户做出精准的推荐,实现E-CGNN算法。实验表明,E-CGNN算法比冷启动自适应算法(PNMTA)在均方根误差和平均绝对误差上降低了2%和5%,推荐性能有了提升。2.提出了基于边缘信息的会话型推荐算法E-SGNN。首先根据边缘信息对相似用户进行聚类,将其划分为不同的用户群体,构建会话-用户-站点关系图,然后对关系图中的数据特征进行提取,再通过GGNN进行重置和更新,得到用户的历史行为特征向量和当前行为特征向量;其次引入自注意力机制调整用户的当前偏好和历史偏好的比例;最后,利用线性变换和softmax分类器得到排名分数,实现E-SGNN算法。实验表明,E-SGNN算法比跨会话信息推荐算法(FGNN-SG)在召回率和平均倒数排名上提升了3.13%和1.24%,推荐效果得到改善。3.提出基于边缘信息的会话型个性化习题推荐算法E-SGNN-PER。利用E-SGNN算法,在个性化习题推荐中重新定义该算法中会话、用户和站点的意义,利用知识点的集合代替了E-SGNN算法中的会话部分,完成了E-SGNN-PER算法。实验表明,在Exercise数据集上,E-SGNN-PER算法比基于知识图谱增强的多任务特征学习推荐算法(MKR)在召回率和精确率上提升了2.12%和1.2%。
本文内容包括但不限于文字、数据、图表及超链接等)均来源于该信息及资料的相关主题。发布者:毕设项目助手 ,原文地址:https://bishedaima.com/lunwen/52611.html