基于隐私保护的协同过滤推荐方法研究
这是一篇关于协同过滤,匿名隐私保护,矩阵分解,完全同态加密,梯度下降的论文, 主要内容为推荐系统的诞生是为了解决网络时代带来的信息超载问题。其通过分析用户的行为数据和基本信息、挖掘用户的偏好特点,为用户提供个性化推荐的服务。其中,协同过滤推荐方法应用最为广泛,其主要特点是通过计算不同用户、项目之间的相似性进行推荐。推荐系统在带来便利的同时,也给用户的隐私带来风险。本文分析了现有的面向协同过滤推荐的隐私保护技术现状以及所存在的不足,然后从隐私保护和协同过滤的不同角度入手开展深入研究,提出对协同过滤方法改进方案和与之对应结合的隐私保护方法改进方案,主要研究成果如下:第一,针对传统的匿名隐私保护方法中存在的保护程度过高影响到推荐效果的问题。研究当前的匿名隐私保护方法着重于加强保护所带来的高度安全性,从而使得保护之后的数据挖掘难度提高。为了解决这些方法中的数据损失度高、挖掘鲁棒性高等问题,本文提出了一种用于协同过滤推荐的改进的匿名隐私保护方法。首先引入一种改进的(p,α)-k匿名算法在协作过滤推荐系统中使用,以针对不同的敏感度级别提供不同的保护等级。通过分析不同的敏感属性值,将数据集划分为不同的类别,然后为它们设置不同的隐私泄漏率。此外,该算法结合了聚类和泛化的思想,提高推荐的准确率。实验结果表明,该模型可以有效地实现隐私保护与数据可用性之间更好的平衡。第二,针对传统的用于推荐的密码学隐私保护技术存在效率低的问题。首先,本文针对完全同态加密需要以加密形式执行固定点算术的问题,改进了用于完全同态加密的梯度下降数据结构。接下来,为了提高推荐的质量,引入基于矩阵分解的协同过滤推荐方法并进行改进,该方法弥补了传统协同过滤推荐方法中目标评级矩阵的极度稀疏会极度影响推荐效果。与此同时,我们结合协同过滤推荐和矩阵分解,设计一种基于信任的矩阵分解推荐方法,提出一种新的技术来分析评级矩阵,保留经典分解技术的优点。实验结果表明,该方法可以在尽可能的提高数据安全性的前提下,能够保证数据的可用性。
基于梯度下降的分布式张量分解研究
这是一篇关于张量分解,分布式计算,梯度下降,Spark的论文, 主要内容为伴着网络的飞速发展,互联网中的信息也爆炸增长,涌现出了海量的数据,这些数据不仅样本数量大,而且属性众多、数据维度较高。面对这样的数据,传统的二维矩阵存储和处理显得繁琐,且不能更好地发现数据属性间的关联关系。张量作为矩阵在高阶情况下的自然扩展,不仅能够很好地建模这些高维的数据,而且能够利用张量分解技术充分挖掘数据中的有效信息,为高维、海量数据处理提供了有力的工具。张量分解作为挖掘张量数据信息的技术,在机器学习、图像处理等方面有着广泛的应用,但张量分解指数级的复杂度使其难以应用在大规模的数据集上,不能有效挖掘海量数据的信息。为此,人们开始关注使用分布式技术来处理张量分解,现有的大部分分布式张量分解研究都是对原有的张量运算进行拆分和并行,解决了原有计算中间数据爆炸的问题,但本质上仍包含了大量的张量运算,效率并不高。所以,如何对大规模的张量进行分布式的分解是目前张量研究的一个重要内容。针对上述问题,本文提出了三种基于梯度下降的分布式张量分解算法,在Spark平台上进行了设计和实现,最后通过大量实验验证算法各方面的性能,并给出了在推荐系统中的应用实例。主要的贡献可以归纳如下:(1)提出了基于批量梯度下降的分布式张量分解算法(Distributed Tensor Decomposition based on Batch Gradient Descent,BDTD)。该算法基于切面的形式划分张量数据来进行分布式并行计算,将结果按行向量的形式更新到因子矩阵中。实验结果表明,该算法较其他两个算法具有最快的梯度下降速度,较现有算法的运行效率高。(2)提出了基于小批量梯度下降的分布式张量分解算法(Distributed Tensor Decomposition based on Mini-Batch Gradient Descent,MBDTD)。该算法利用Spark分区的特性,直接使用分区中的数据进行优化,对各分区的优化结果采用简单平均的方式进行聚合。实验结果表明,该算法较其他算法具有最高的运行效率。(3)提出了基于弹性平均随机梯度下降的分布式张量分解算法(Distributed Tensor Decomposition based on Elastic Averaging Stochastic Gradient Descent,EADTD)。该算法在MBDTD的基础上,采用弹性更新的方式更新因子矩阵,优化聚合方式,提升对当前样本梯度信息的利用。实验结果表明,该算法既具有MBDTD的运行效率优势,又加快了梯度下降的速度,较现有算法亦具有较高的运行效率。(4)使用Scala对上述算法进行了工程实现,并通过了大量的实验验证其有效性和各方面的性能,给后续研究和使用提供了基础。
基于深度学习的蛋糕推荐系统的研究
这是一篇关于推荐算法,深度学习,卷积神经网络,特征提取,梯度下降的论文, 主要内容为在大数据的背景下,互联网在获取数据时给人们带来了很多的便利,但在海量的数据中筛选出我们所要的信息,也带来了很大的困难,这就是“信息过载”。面对信息过载这个困境,有学者提出了个性化推荐系统。推荐系统是推荐算法的的应用和体现,基于内容的推荐算法、协同过滤推荐算法和混合推荐算法已经能够给我们带来很好的用户体验。人工智能的热潮带动了深度学习技术的快速发展,计算机视觉、自然语言处理等领域应用的巨大成功,已经奠定了深度学习技术在21世纪所有应用领域的地位。研究学者们为了能提升推荐系统的性能,将其和深度学习技术结合在一起,衍生出了基于深度学习的推荐算法,同时也促进了推荐算法的发展。因此,本文为了帮助用户找到更多感兴趣的蛋糕食品,把推荐系统技术应用到蛋糕推荐中,一方面提高了消费者的消费体验,另一方面也对推荐算法的发展起到了促进作用。本文首先对大数据背景下的推荐系统的研究价值和意义做了一个简要的概括,对论文实验部分涉及到的相关技术进行细致的分析研究。针对蛋糕推荐,通过搭建神经网络模型,利用用户的ID、用户性别、年龄、职业数据和蛋糕的ID、蛋糕种类、蛋糕名称数据,创建用户和蛋糕之间的评分关系连接,提取用户和蛋糕的数据特征,利用用户和蛋糕数据之间强大的关联,对蛋糕数据和用户数据进行向量计算,预测用户评分,根据评分结果,推荐给用户感兴趣的蛋糕。本文主要是对收集到的用户数据和蛋糕数据进行处理,构建用户-蛋糕数据集,使用卷积神经网络技术提取蛋糕名称特征,同时将用户和蛋糕的其他信息输入到网络模型中,训练网络模型。在模型训练过程中,对影响系统性能的学习率和每个元素被保留的概率的参数进行调优,设置不同的学习率和每个元素被保存的概率的值,进行迭代训练,通过对比分析,找到相对合适的学习率和每个元素被保存的概率值进行参数设置,使基于卷积神经网络的模型在实际应用中,给用户带来更好的推荐效果。通过评估两种模型:基于卷积神经网络的模型和基于矩阵分解的协同过滤模型,优化损失,对比均方根误差RMSE和均方误差MSE的值,最后得出基于卷积神经网络的推荐模型的性能更优的结果,设计了一种基于深度学习的蛋糕推荐系统,达到蛋糕推荐的目的。生成推荐列表前,需要计算用户-蛋糕相似度,在这里使用了改进的相似度计算方式,提升推荐系统的性能。
基于隐私保护的协同过滤推荐方法研究
这是一篇关于协同过滤,匿名隐私保护,矩阵分解,完全同态加密,梯度下降的论文, 主要内容为推荐系统的诞生是为了解决网络时代带来的信息超载问题。其通过分析用户的行为数据和基本信息、挖掘用户的偏好特点,为用户提供个性化推荐的服务。其中,协同过滤推荐方法应用最为广泛,其主要特点是通过计算不同用户、项目之间的相似性进行推荐。推荐系统在带来便利的同时,也给用户的隐私带来风险。本文分析了现有的面向协同过滤推荐的隐私保护技术现状以及所存在的不足,然后从隐私保护和协同过滤的不同角度入手开展深入研究,提出对协同过滤方法改进方案和与之对应结合的隐私保护方法改进方案,主要研究成果如下:第一,针对传统的匿名隐私保护方法中存在的保护程度过高影响到推荐效果的问题。研究当前的匿名隐私保护方法着重于加强保护所带来的高度安全性,从而使得保护之后的数据挖掘难度提高。为了解决这些方法中的数据损失度高、挖掘鲁棒性高等问题,本文提出了一种用于协同过滤推荐的改进的匿名隐私保护方法。首先引入一种改进的(p,α)-k匿名算法在协作过滤推荐系统中使用,以针对不同的敏感度级别提供不同的保护等级。通过分析不同的敏感属性值,将数据集划分为不同的类别,然后为它们设置不同的隐私泄漏率。此外,该算法结合了聚类和泛化的思想,提高推荐的准确率。实验结果表明,该模型可以有效地实现隐私保护与数据可用性之间更好的平衡。第二,针对传统的用于推荐的密码学隐私保护技术存在效率低的问题。首先,本文针对完全同态加密需要以加密形式执行固定点算术的问题,改进了用于完全同态加密的梯度下降数据结构。接下来,为了提高推荐的质量,引入基于矩阵分解的协同过滤推荐方法并进行改进,该方法弥补了传统协同过滤推荐方法中目标评级矩阵的极度稀疏会极度影响推荐效果。与此同时,我们结合协同过滤推荐和矩阵分解,设计一种基于信任的矩阵分解推荐方法,提出一种新的技术来分析评级矩阵,保留经典分解技术的优点。实验结果表明,该方法可以在尽可能的提高数据安全性的前提下,能够保证数据的可用性。
面向投融资推荐的深度学习算法研究与应用
这是一篇关于梯度下降,蒸馏技术,深度学习,独立成分分析的论文, 主要内容为随着社会的不断发展,数据发生着日新月异的改变,这些改变对当前社会生活和学术研究都产生相应的影响。数据的改变与其产生的影响主要体现在两个方面,一方面是数据量级在与日俱增,造成数据过载,使人们在面对海量数据时,存在信息筛选困难问题。另一方面是数据形式的改变,非结构化数据日益增加,导致传统机器学习算法在处理时困难重重。为了缓解数据变化带来的影响,相关技术应运而生。其中,推荐系统可以协助人们进行信息过滤,深度学习技术可以更好地处理非结构化数据难以使用的问题。本文对深度学习中的梯度下降算法、蒸馏技术和网络结构进行研究并改进,解决深度学习中自适应梯度下降算法存在的中间参数存储过多问题、蒸馏技术中存在超参数调整困难问题以及基于深度学习的推荐模型平铺层存在特征相关性衡量困难问题。然后将改进后的深度学习技术应用到经济领域,实现投融资推荐。论文的主要工作包括以下四个部分:1)为了更好的实现投融资推荐系统,本文采用深度学习算法进行研究。梯度下降算法作为深度学习模型的训练方法,在模型的训练过程中不可或缺。但现有的梯度下降算法中存在固定学习率性能不佳的问题以及自适应学习率优化算法中存在中间参数存储过多问题。本文从神经元的角度出发,提出一种新的自适应梯度下降算法(Stable Stepwise Gradient Descent algorithm,SSGD),使用神经元的最大梯度信息对神经元的学习率进行修改,实现梯度下降算法在不需要存储历史梯度信息的情况下,进行学习率的自适应调整,有效降低应用深度学习模型进行投融资推荐的空间复杂度。本文提出的SSGD算法,在MNIST数据集上取得出色的效果,模型的准确率在训练集上提升1.08%,在测试集上提升了 1.21%。2)为了降低模型的复杂度,实现投融资推荐系统的快速响应,对深度学习中的logits蒸馏技术进行研究。蒸馏技术可以降低模型的复杂度,但存在多个超参数需要进行调整,参数组合过多,导致调整难度大,且固定参数存在不能灵活适配的问题。本文根据样本的软标签与硬标签之间的相似度来动态修改参数,提出动态参数调整蒸馏算法(Dynamic Parameter Adjustment algorithm,DPA),提高了负样本信息的提取质量,为logits蒸馏中的参数调整提供了一种灵活的设置方法,为之后的投融资推荐系统的模型压缩提供基础,降低投融资推荐系统的服务调用时间。3)针对深度学习在特征处理后的平铺层存在特征相关性难以衡量问题,提出了RSICA(Recommendation System based on Independent Component Analysis)模型,利用独立成分分析解决了平铺层的特征相关性问题,使用残差神经网络解决了模型退化问题,并在采集到的投资数据集上取得较好的实验结果。在包含超过20万个样本的非平衡数据集中,AUC(Area under the Curve)提升了0.96%,AP(Average Precision)提升了0.27%;在包含超过10万个样本的平衡数据集中,AUC提升了0.38%,AP提升了0.39%。4)将SSGD、DPA和RSICA模型融合后,应用到经济领域,实现投融资推荐系统。首先采用SSGD算法对RSICA模型进行训练;然后利用动态参数调整蒸馏算法对训练后的RSICA模型进行压缩,降低服务调用的响应时间;最后,将压缩后的模型进行部署,实现个性化的投融资推荐系统。综上所述,本文围绕基于深度学习的推荐模型展开,并将推荐系统应用到投融资领域,辅助投融资决策,具有重要的实际意义。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：源码港湾 ，原文地址：https://bishedaima.com/lunwen/56351.html
