基于异构图神经网络的电商商品会话推荐系统的设计与实现

这是一篇关于基于会话的推荐系统,异构图神经网络,注意力机制,电子商务的论文, 主要内容为在大数据时代,海量的数据信息给用户造成了严重的“信息超载”问题,推荐系统是克服这个问题的主要方法之一。在电商领域,推荐系统通过挖掘用户与商品的历史交互行为捕捉用户兴趣偏好,为用户推荐其感兴趣的商品,并给电商平台创造更大的利润和价值。相对于传统的推荐方法只关注用户的长期静态偏好,基于会话的推荐方法将用户行为记录分解成粒度更小的会话,能够考虑用户行为的事务结构,并及时捕捉用户兴趣偏好的转变,从而为用户展示更加可靠的商品推荐结果。但是,以往基于会话的推荐方法的研究往往只关注会话数据集中商品间的顺序关系和转换关系,忽略了其它重要信息。因此本文提出了基于异构图神经网络的会话推荐算法,该算法将会话数据集构建成包含用户、商品、会话三种类型节点的异构图,使用异构图神经网络捕捉节点间复杂的依赖关系,并结合注意力机制强调当前会话的主要目的。为验证模型的性能,本文在两个开源的数据集上与目前比较流行的推荐方法进行比较。同时,本文设计并实现了一款前后端分离的电商商品推荐系统。与传统推荐系统不同的是,本系统以会话作为基本数据单元,并将基于异构图神经网络的会话推荐算法应用于该系统的推荐引擎,为用户提供基于当前会话的推荐服务。本系统的前端是基于Android技术开发的移动应用,后端采用Flask框架搭建Web服务,完成了用户管理、商品管理、会话管理、商品推荐以及可视化分析功能模块的开发。

会话型推荐系统的排序框架

这是一篇关于基于会话的推荐系统,推荐系统,排序,深度学习,机器学习的论文, 主要内容为推荐系统是大数据时代背景下不可或缺的应用之一。在现今的大数据时代,信息过载已成为一种常态现象,而推荐系统能够帮助用户从海量信息中更加快速地找到他们所感兴趣的内容。在常用的推荐系统算法中,往往需要将用户所有的信息(如用户的身份信息,历史交互信息等)都加以利用来生成个性化服务。但在很多实际场景中,是无法获取用户所有的信息,比如说用户是匿名的;此时用户身份信息以及历史交互信息无法获取,传统的推荐算法将无法使用,因此会话型推荐系统应运而生。在会话型推荐任务中,用户是匿名的,只能够通过当前会话中用户的交互行为来为问询用户生成推荐列表。当前流行的会话型推荐方法主要对当前会话用户的交互序列进行建模,在生成会话的嵌入表征后和所有项目的嵌入表征进行相似值计算,最后根据得到的相似值从所有项目集中挑选6)个项目生成推荐列表。但这种方式其实存在缺陷——模型需要对所有项目进行精准地评分并且依据评分来对所有项目进行排序,而在实际应用中项目数量往往十分庞大,模型的准确性需要更大的模型复杂度来保证;但过大的模型复杂度在真实场景中是难以实现或者是不能容忍的,因此现有的方法在实际运用中效果将大打折扣。为了进一步提升推荐效果,本文将会话型推荐的流程分为两个阶段——召回和排序;召回阶段可以通过现有方法从所有项目集中挑选一定数量的项目作为候选项目集;排序阶段则是通过设计的排序框架对候选项目集进行重新的排序后挑选6)个项目生成最终的推荐列表。本文为排序阶段设计了三种有效改善推荐效果的排序框架——深度学习排序框架、机器学习排序框架以及混合型排序框架。在深度学习排序框架中,本文采用深度学习的方法设计合适的神经网络模型进行排序建模,排序模型的评分将和召回模型的评分分别经过会话内归一化处理后进行加权求和得到最终评分,并依此生成推荐列表。我们通过实验证明了深度学习排序框架的有效性,同时通过实验探索了会话序列截断长度的影响。在机器学习排序框架中,本文采用机器学习的方法进行排序建模——通过构建特征工程并输入梯度提升树模型。在机器学习排序框架中,推荐列表生成方式和深度学习排序框架一致。我们同样通过实验证明了机器学习排序框架的有效性;同时通过消融实验验证了特征工程中设计的图特征的有效性。在混合型排序框架中,本文同时引入深度学习和机器学习的方式进行排序建模,即在混合型排序框架中将存在两个排序模型为候选项目进行评分,两个排序模型的评分和召回模型的评分在分别经过会话内归一化处理后进行加权求和得到最终评分,并依此生成推荐列表。实验结果表明混合型排序框架有着优于深度学习和机器学习排序框架的推荐效果,同时我们通过实验对混合型排序框架的可扩展性、结构设计的有效性以及召回数量的影响进行了探索。

基于异构图神经网络的电商商品会话推荐系统的设计与实现

这是一篇关于基于会话的推荐系统,异构图神经网络,注意力机制,电子商务的论文, 主要内容为在大数据时代,海量的数据信息给用户造成了严重的“信息超载”问题,推荐系统是克服这个问题的主要方法之一。在电商领域,推荐系统通过挖掘用户与商品的历史交互行为捕捉用户兴趣偏好,为用户推荐其感兴趣的商品,并给电商平台创造更大的利润和价值。相对于传统的推荐方法只关注用户的长期静态偏好,基于会话的推荐方法将用户行为记录分解成粒度更小的会话,能够考虑用户行为的事务结构,并及时捕捉用户兴趣偏好的转变,从而为用户展示更加可靠的商品推荐结果。但是,以往基于会话的推荐方法的研究往往只关注会话数据集中商品间的顺序关系和转换关系,忽略了其它重要信息。因此本文提出了基于异构图神经网络的会话推荐算法,该算法将会话数据集构建成包含用户、商品、会话三种类型节点的异构图,使用异构图神经网络捕捉节点间复杂的依赖关系,并结合注意力机制强调当前会话的主要目的。为验证模型的性能,本文在两个开源的数据集上与目前比较流行的推荐方法进行比较。同时,本文设计并实现了一款前后端分离的电商商品推荐系统。与传统推荐系统不同的是,本系统以会话作为基本数据单元,并将基于异构图神经网络的会话推荐算法应用于该系统的推荐引擎,为用户提供基于当前会话的推荐服务。本系统的前端是基于Android技术开发的移动应用,后端采用Flask框架搭建Web服务,完成了用户管理、商品管理、会话管理、商品推荐以及可视化分析功能模块的开发。

基于图和深度神经网络的会话推荐算法设计与实现

这是一篇关于基于会话的推荐系统,用户兴趣建模,注意力机制,图表示学习的论文, 主要内容为基于会话的推荐系统作为一种有效的技术手段可以帮助用户发现与其当前会话中兴趣相关的物品。与传统推荐系统相比,会话推荐由于能够仅根据在进行的会话期间观察到的用户行为来进行推荐而具有高度实用性,受到研究者的广泛关注。当前研究主要将基于会话的推荐任务建模为根据现有点击序列数据预测用户的下一次点击问题,主要采用基于深度神经网络和表示学习的方法,利用会话中的物品点击序列提取与用户兴趣相关的特征,生成用户最可能点击物品的推荐列表。本论文对现有主流相关工作进行分析归纳发现,当前主流会话推荐方法存在一些问题:第一,会话中的用户兴趣具有多样且多变的特点,导致当前主流的神经网络模型对用户兴趣及变化建模不足,影响推荐准确性;第二,当前研究工作聚焦于如何有效建模会话中的用户行为特征和设计更准确的用户兴趣捕获方法,忽略了物品表达向量蕴含的信息对模型的影响,缺乏对物品本身信息和物品间复杂关联关系的利用,制约了会话推荐算法性能的进一步提高。针对上述问题,本文以用户匿名的会话推荐任务为研究对象,并分别提出两个会话推荐算法。首先,针对现实生活中人类浏览行为的特点,提出一个短期注意力及记忆优先的会话推荐算法,在推荐时优先考虑会话中用户的当前兴趣,同时设计了一种注意力机制以有效同时捕获会话中与用户长期兴趣和当前兴趣相关的特征,缓解了当前会话推荐算法难以处理的用户兴趣漂移等问题对推荐准确性的影响。同时,总结当前基于深度神经网络的会话推荐算法使用随机初始化的物品表达的缺陷,创新性的根据全部会话数据构造一个物品访问频率和顺序关系图,据此设计了一个基于图的物品表示学习方法,通过简洁高效的语义合成方式学习物品在全局层面的热门程度和物品间丰富的复杂关联信息。最后,将从图中预先学习的物品固定向量表达作为推荐模型的输入,提出一种基于图表示学习的会话推荐算法。该算法引入全局层面的物品本身受关注度和物品间复杂关联信息,同时在建模会话序列时还融合了包含会话整体特点的用户长期行为和包含用户初始兴趣与当前兴趣的短期行为信息,以此提高会话推荐算法整体性能。在三个真实公开数据集上的一系列实验结果表明,所提出的会话推荐算法整体性能均达到当前先进水平,另外,将学到的物品固定表达作为推荐模型的输入,能有效提高会话推荐算法在真实场景下的适应能力,也为会话推荐研究提供给了新的思路和建模方式。

基于注意力机制的推荐算法研究

这是一篇关于推荐系统,基于会话的推荐系统,深度学习,注意力机制,图神经网络的论文, 主要内容为随着信息技术的蓬勃发展和大数据时代的到来,各行各业迎来了信息化的革新,人们的生活也因此得到了极大的便利。现如今,储存在各类网站中的数据量呈爆炸式增长,但如何在海量的信息中寻找到需要的那部分却成为了困扰用户的一大问题。因此,推荐系统作为一种有效的信息过滤手段应运而生。近年来,推荐系统受到了广泛研究,其中基于图神经网络的推荐模型是近年的研究热点,但现有的模型仍存在着一些不足之处。首先,现有的基于图神经网络的推荐模型在信息传递的过程中往往直接将所有邻居的信息进行传递,而没有筛选出对当前节点更为重要的信息,进而导致学习得到的用户和物品嵌入向量不能够很好的表达用户兴趣和物品属性。其次,在会话推荐中,现有的模型通常把一个物品看作一个整体处理,没有对特征粒度的深度信息进行挖掘和建模;同时,现有的会话推荐模型往往只在单一的空间内使用注意力机制,导致对会话序列建模不充分。本文开展了深入的研究工作,提出了相应的新的推荐模型以解决以上提到的不足,并在相关的真实数据集上进行了实验以验证本文所提出推荐模型的有效性。本文的主要研究工作如下:1.调研图神经网络、卷积神经网络、注意力机制等相关领域科研文献,深入研究了现有的推荐模型,分析并总结了现有研究中存在的问题与待改进之处。2.为了解决现有的基于图神经网络的推荐模型中的信息传递算法通常把当前用户或物品的所有邻居同等对待,而没有筛选出其中更加重要的信息进行传递的问题,本文提出了一种新的基于图注意力的信息传递算法——GAMP。GAMP算法使用注意力机制对当前用户或物品的邻居进行区别对待,关注于对当前任务更为重要的信息,从而更好地学习用户和物品的嵌入向量表示。3.基于图神经网络与GAMP算法,提出了一种新的基于图注意力的深度推荐模型——GADN。该模型通过显式地对高阶用户-物品关系进行建模,使用GAMP算法学习了用户和物品的高阶嵌入向量表示,从而有效地对用户的偏好信息和物品的属性信息进行建模,进而提高了模型的推荐准确率。4.针对现有研究中对会话深度特征学习能力不足的问题,将卷积神经网络引入至会话推荐中,提出了横纵卷积模块。通过将用户最近点击的物品嵌入序列拼接成为矩阵的方式,使用横向卷积核与纵向卷积核分别捕获会话中相邻物品间的深度特征与特征粒度的物品与物品间关系的深度特征,从而增强了模型的表达能力。并进一步结合门控图神经网络与多头注意力机制,提出了一种多头注意力卷积图神经网络会话推荐模型——MACG,提高了会话推荐的推荐准确率。5.本文提出的推荐模型与多种先进的推荐模型在多个公开数据集上进行了对比实验并对实验结果加以分析,验证了本文提出的推荐模型的有效性。

会话型推荐系统的排序框架

这是一篇关于基于会话的推荐系统,推荐系统,排序,深度学习,机器学习的论文, 主要内容为推荐系统是大数据时代背景下不可或缺的应用之一。在现今的大数据时代,信息过载已成为一种常态现象,而推荐系统能够帮助用户从海量信息中更加快速地找到他们所感兴趣的内容。在常用的推荐系统算法中,往往需要将用户所有的信息(如用户的身份信息,历史交互信息等)都加以利用来生成个性化服务。但在很多实际场景中,是无法获取用户所有的信息,比如说用户是匿名的;此时用户身份信息以及历史交互信息无法获取,传统的推荐算法将无法使用,因此会话型推荐系统应运而生。在会话型推荐任务中,用户是匿名的,只能够通过当前会话中用户的交互行为来为问询用户生成推荐列表。当前流行的会话型推荐方法主要对当前会话用户的交互序列进行建模,在生成会话的嵌入表征后和所有项目的嵌入表征进行相似值计算,最后根据得到的相似值从所有项目集中挑选6)个项目生成推荐列表。但这种方式其实存在缺陷——模型需要对所有项目进行精准地评分并且依据评分来对所有项目进行排序,而在实际应用中项目数量往往十分庞大,模型的准确性需要更大的模型复杂度来保证;但过大的模型复杂度在真实场景中是难以实现或者是不能容忍的,因此现有的方法在实际运用中效果将大打折扣。为了进一步提升推荐效果,本文将会话型推荐的流程分为两个阶段——召回和排序;召回阶段可以通过现有方法从所有项目集中挑选一定数量的项目作为候选项目集;排序阶段则是通过设计的排序框架对候选项目集进行重新的排序后挑选6)个项目生成最终的推荐列表。本文为排序阶段设计了三种有效改善推荐效果的排序框架——深度学习排序框架、机器学习排序框架以及混合型排序框架。在深度学习排序框架中,本文采用深度学习的方法设计合适的神经网络模型进行排序建模,排序模型的评分将和召回模型的评分分别经过会话内归一化处理后进行加权求和得到最终评分,并依此生成推荐列表。我们通过实验证明了深度学习排序框架的有效性,同时通过实验探索了会话序列截断长度的影响。在机器学习排序框架中,本文采用机器学习的方法进行排序建模——通过构建特征工程并输入梯度提升树模型。在机器学习排序框架中,推荐列表生成方式和深度学习排序框架一致。我们同样通过实验证明了机器学习排序框架的有效性;同时通过消融实验验证了特征工程中设计的图特征的有效性。在混合型排序框架中,本文同时引入深度学习和机器学习的方式进行排序建模,即在混合型排序框架中将存在两个排序模型为候选项目进行评分,两个排序模型的评分和召回模型的评分在分别经过会话内归一化处理后进行加权求和得到最终评分,并依此生成推荐列表。实验结果表明混合型排序框架有着优于深度学习和机器学习排序框架的推荐效果,同时我们通过实验对混合型排序框架的可扩展性、结构设计的有效性以及召回数量的影响进行了探索。

基于注意力机制的推荐算法研究

这是一篇关于推荐系统,基于会话的推荐系统,深度学习,注意力机制,图神经网络的论文, 主要内容为随着信息技术的蓬勃发展和大数据时代的到来,各行各业迎来了信息化的革新,人们的生活也因此得到了极大的便利。现如今,储存在各类网站中的数据量呈爆炸式增长,但如何在海量的信息中寻找到需要的那部分却成为了困扰用户的一大问题。因此,推荐系统作为一种有效的信息过滤手段应运而生。近年来,推荐系统受到了广泛研究,其中基于图神经网络的推荐模型是近年的研究热点,但现有的模型仍存在着一些不足之处。首先,现有的基于图神经网络的推荐模型在信息传递的过程中往往直接将所有邻居的信息进行传递,而没有筛选出对当前节点更为重要的信息,进而导致学习得到的用户和物品嵌入向量不能够很好的表达用户兴趣和物品属性。其次,在会话推荐中,现有的模型通常把一个物品看作一个整体处理,没有对特征粒度的深度信息进行挖掘和建模;同时,现有的会话推荐模型往往只在单一的空间内使用注意力机制,导致对会话序列建模不充分。本文开展了深入的研究工作,提出了相应的新的推荐模型以解决以上提到的不足,并在相关的真实数据集上进行了实验以验证本文所提出推荐模型的有效性。本文的主要研究工作如下:1.调研图神经网络、卷积神经网络、注意力机制等相关领域科研文献,深入研究了现有的推荐模型,分析并总结了现有研究中存在的问题与待改进之处。2.为了解决现有的基于图神经网络的推荐模型中的信息传递算法通常把当前用户或物品的所有邻居同等对待,而没有筛选出其中更加重要的信息进行传递的问题,本文提出了一种新的基于图注意力的信息传递算法——GAMP。GAMP算法使用注意力机制对当前用户或物品的邻居进行区别对待,关注于对当前任务更为重要的信息,从而更好地学习用户和物品的嵌入向量表示。3.基于图神经网络与GAMP算法,提出了一种新的基于图注意力的深度推荐模型——GADN。该模型通过显式地对高阶用户-物品关系进行建模,使用GAMP算法学习了用户和物品的高阶嵌入向量表示,从而有效地对用户的偏好信息和物品的属性信息进行建模,进而提高了模型的推荐准确率。4.针对现有研究中对会话深度特征学习能力不足的问题,将卷积神经网络引入至会话推荐中,提出了横纵卷积模块。通过将用户最近点击的物品嵌入序列拼接成为矩阵的方式,使用横向卷积核与纵向卷积核分别捕获会话中相邻物品间的深度特征与特征粒度的物品与物品间关系的深度特征,从而增强了模型的表达能力。并进一步结合门控图神经网络与多头注意力机制,提出了一种多头注意力卷积图神经网络会话推荐模型——MACG,提高了会话推荐的推荐准确率。5.本文提出的推荐模型与多种先进的推荐模型在多个公开数据集上进行了对比实验并对实验结果加以分析,验证了本文提出的推荐模型的有效性。

结合微观行为和异构信息网络的会话推荐

这是一篇关于基于会话的推荐系统,微观行为,异构信息网络的论文, 主要内容为随着大数据时代的到来,信息过载问题日益严重,在海量数据中寻找用户最感兴趣的信息成为了当前的热点问题。与传统推荐算法相比,基于会话的推荐系统不需要获取用户的历史信息,仅利用用户的会话数据就可以生成个性化推荐列表,因而深受研究者的关注。本文通过整理归纳现有的基于会话的推荐算法发现,当前主流的会话推荐算法存在以下几个问题:第一,可获取的会话数据不仅包含有时序性的项目序列,也包含用户的一系列微观行为,例如用户在网页的操作序列,用户在项目的停留时间等。当前的会话推荐算法缺乏对用户微观行为数据的利用;第二,项目冷启动问题难以解决,当前的研究主要集中在从会话数据中挖掘项目间的关联关系,来获取用户的短期兴趣偏好进行推荐,忽略了会话外项目与会话中的项目的关联关系,因而新物品难以被推荐,降低了推荐准确性。针对上述问题,本文提出了结合用户微观行为和异构信息网络的会话推荐算法。主要工作如下:首先,针对当前对用户微观行为利用不足的情况,本文使用了用户微观行为的数据-操作序列和项目停留时间序列,与项目序列共同学习当前会话的向量表达,提出了结合用户微观行为的会话推荐算法。其次,针对项目冷启动问题,本文构建了用户-项目-项目属性的异构信息网络,学习全局的项目关系,将预先学到的知识作为模型输入;同时学习用户和项目的关系,通过用户-项目的链路预测任务判断候选项是否为下一个交互项。最后,在公开数据集上进行了一系列实验,实验结果证明了本文所提出的两个模型在真实数据集上的推荐效果更好,同时也证明了利用全局的项目间的关联关系可以有效地改进项目冷启动问题。

会话型推荐系统的排序框架

这是一篇关于基于会话的推荐系统,推荐系统,排序,深度学习,机器学习的论文, 主要内容为推荐系统是大数据时代背景下不可或缺的应用之一。在现今的大数据时代,信息过载已成为一种常态现象,而推荐系统能够帮助用户从海量信息中更加快速地找到他们所感兴趣的内容。在常用的推荐系统算法中,往往需要将用户所有的信息(如用户的身份信息,历史交互信息等)都加以利用来生成个性化服务。但在很多实际场景中,是无法获取用户所有的信息,比如说用户是匿名的;此时用户身份信息以及历史交互信息无法获取,传统的推荐算法将无法使用,因此会话型推荐系统应运而生。在会话型推荐任务中,用户是匿名的,只能够通过当前会话中用户的交互行为来为问询用户生成推荐列表。当前流行的会话型推荐方法主要对当前会话用户的交互序列进行建模,在生成会话的嵌入表征后和所有项目的嵌入表征进行相似值计算,最后根据得到的相似值从所有项目集中挑选6)个项目生成推荐列表。但这种方式其实存在缺陷——模型需要对所有项目进行精准地评分并且依据评分来对所有项目进行排序,而在实际应用中项目数量往往十分庞大,模型的准确性需要更大的模型复杂度来保证;但过大的模型复杂度在真实场景中是难以实现或者是不能容忍的,因此现有的方法在实际运用中效果将大打折扣。为了进一步提升推荐效果,本文将会话型推荐的流程分为两个阶段——召回和排序;召回阶段可以通过现有方法从所有项目集中挑选一定数量的项目作为候选项目集;排序阶段则是通过设计的排序框架对候选项目集进行重新的排序后挑选6)个项目生成最终的推荐列表。本文为排序阶段设计了三种有效改善推荐效果的排序框架——深度学习排序框架、机器学习排序框架以及混合型排序框架。在深度学习排序框架中,本文采用深度学习的方法设计合适的神经网络模型进行排序建模,排序模型的评分将和召回模型的评分分别经过会话内归一化处理后进行加权求和得到最终评分,并依此生成推荐列表。我们通过实验证明了深度学习排序框架的有效性,同时通过实验探索了会话序列截断长度的影响。在机器学习排序框架中,本文采用机器学习的方法进行排序建模——通过构建特征工程并输入梯度提升树模型。在机器学习排序框架中,推荐列表生成方式和深度学习排序框架一致。我们同样通过实验证明了机器学习排序框架的有效性;同时通过消融实验验证了特征工程中设计的图特征的有效性。在混合型排序框架中,本文同时引入深度学习和机器学习的方式进行排序建模,即在混合型排序框架中将存在两个排序模型为候选项目进行评分,两个排序模型的评分和召回模型的评分在分别经过会话内归一化处理后进行加权求和得到最终评分,并依此生成推荐列表。实验结果表明混合型排序框架有着优于深度学习和机器学习排序框架的推荐效果,同时我们通过实验对混合型排序框架的可扩展性、结构设计的有效性以及召回数量的影响进行了探索。