基于深度学习的城市区域交通流量预测
这是一篇关于交通流量预测,深度学习,时空数据,卷积长短期记忆网络,注意力模型的论文, 主要内容为一个可靠且准确的交通流量预测手段对公共安全和交通管理具有重要意义,它能为城市交通管理者提供参考指标,便于他们完成决策,制定合适的交通管控制度,从而提升城市的运转速率,降低事故的发生率,缓解道路拥塞情况。然而,这也是一件具有挑战性的任务,因为交通流数据属于时空数据,易受到时间依赖性、空间依赖性与一些额外因素的影响。传统的交通流量预测领域常使用时间序列处理方法,如AR、ARIMA等,虽然时序模型较为简单,应用范围较广,但若数据量较大,应用场景复杂,则性能会变差,且仅能获取数据时序上的关联性,提取的特征信息不完全。近年来,受到深度学习在语音识别、自动驾驶等人工智能领域成功的启发,激发了研究人员使用深度学习技术解决交通预测问题的尝试。虽然神经网络模型相比于传统方法,预测性能的确有较大的提升,但仍存在不足之处。部分研究只从单一方面考虑了交通数据的属性,导致建模不充分,预测性能仍不理想。在此基础上,虽有研究方法在获取交通流量时间信息流的同时,也对空间上的依赖性进行捕捉,但获取的空间信息过于粗糙,且未将一些额外信息的考量也融入,所以预测的精确度还有上升的空间。因此,本文针对现有模型的不足,提出了一种端到端的深度学习模型ST-AttConvLSTM(Spatio-temporal Attention ConvLSTM),用于城市区域交通流量预测。ST-AttConvLSTM将整个模型架构分为三个分支进行建模,以此获取交通流时间属性的邻近性与周期性特征。对每个分支均采用残差神经网络提取局部的空间特征,同时结合天气等外部因素,再利用ConvLSTM与注意力模型两种部件进一步获取数据时序上的依赖性与空间关联性,提取更精细的时间特征,并挖掘出流量的潜在规律。最后将三个分支的输出通过线性加权和的方式融合在一起完成预测。本文使用北京市和纽约市两个真实的移动数据集来对ST-AttConvLSTM模型预测性能进行实验验证。实验结果表明,ST-AttConvLSTM相比于目前较为常用的交通流量预测方法,能提取更精细与准确的时空信息,预测的精确度更高。在此基础上,基于ST-AttConvLSTM,提出了一种优化模型,基于多时空单元块的神经网络模型 Multi-STUT(Multiple Spatio-temporal Unit)。虽然 ST-AttConvLSTM与其余基准方法相比,预测性能更优,但由于结构的复杂性,导致模型训练较为耗时,计算量较大。因此针对该问题,对ST-AttConvLSTM模型架构做出改进,Multi-STUT主要修改点在于采用时空单元块代替ConvLSTM,完成数据时序信息与空间特征的获取。时空单元块由三部分组成,时间分支,空间分支与输出分支。时间分支采用LSTM与一维卷积层的组合,实现刻画影响交通流量变化时间维度的因素,而空间分支主要由二维卷积层与激活函数的堆叠而成,用于获取数据空间上的依赖关系,最终的输出分支就是通过卷积的方式将两者进行融合,联结起来,以此反映时空维度的相互作用。时空单元块相比于ConvLSTM网络,在保有其优点的同时,结构较为简单,因此能有效减少计算量,降低模型总的训练时长。通过两个数据集的实验验证,表明Multi-STUT在预测性能与ST-AttConvLSTM基本相当的情况下,能缩短模型的训练时间,加快收敛速度,同时还对时空单元块不同参数下对预测性能的影响做出分析。最后,基于Flask的Web框架实现了一个B/S架构的交通流量预测系统。通过后端已训练好的ST-AttConvLSTM与Multi-STUT组成的算法模块来完成数据集的预测,将城市区域交通流量信息更直观的在前端页面展示给用户,便于完成相应的分析与评测工作,从而制定交通管控策略,使资源得到合理安排,避免可能出现的交通问题。
基于用户长短期偏好的个性化音乐推荐算法研究
这是一篇关于推荐系统,循环神经网络,注意力模型的论文, 主要内容为音乐是人们生活中的重要娱乐方式,但在海量的音乐中,找到喜欢的歌曲已经成为了一种挑战。因此,音乐推荐已经成为现代音乐流媒体平台服务中的重要部分,能够减少用户的选择时间,提升用户体验,增加商业利益。本文研究推荐系统中的音乐推荐问题,即分析用户的兴趣,向用户推荐个性化的音乐列表。针对这一问题,本文做出了如下的研究工作:(1)本文提出了一个数据驱动的两段式音乐推荐框架,旨在为用户推荐合适的音乐列表。在第一阶段:(1)基于用户喜欢的音乐列表,使用矩阵分解获取用户对音乐的长期偏好;(2)基于歌曲的音乐上下文,使用段落向量等方法获得歌曲的音乐特征。在第二阶段,将用户对音乐的长期偏好、用户的历史播放记录中的歌曲的特征作为循环神经网络的输入,抓取用户对音乐的短期偏好,输出用户喜欢每一首歌的概率,并由此生成一个Top-k的音乐列表推荐。在该阶段,本文提出了两种基于注意力机制的长短期记忆网络模型,能够有效的抓取并结合用户对音乐的长短期偏好,提高推荐准确度,生成合适的音乐列表。(2)本文在数据驱动的两段式音乐推荐框架的基础上,提出一种基于用户长短期偏好的音乐列表推荐框架。其中,优化了用户长期偏好的提取过程,并提出了两种基于注意力机制的双向长短期记忆网络模型,利用用户喜欢的音乐列表抓取用户对音乐的长期偏好。该方法能够有效的规避矩阵中的稀疏性问题,并提高推荐准确度。(3)本文在真实的数据集上进行了实验,通过实验分析了关键参数对实验算法的推荐性能产生的影响,并与已有的经典音乐推荐系统方案进行对比,证明了本文提出的音乐列表推荐算法的有效性。
图文知识图谱中的关系抽取算法研究
这是一篇关于视觉关系抽取,关系抽取,多模态,向量表示,注意力模型,动态计算时间的论文, 主要内容为视觉关系,比如“人骑马”,“人推车”等等,在图像理解中是非常有效的语义元素,同时也是连接计算机视觉与自然语言的桥梁。本文为解决对图像中“主体-谓语-客体”的三元组进行建模的问题,提出了一种视觉关系抽取模型,来组合视觉信息和对应的文本信息。通过对图像中的物体和他们之间的关系进行建模,将他们分别映射到两个不同的低维向量空间,在空间中,关系可以被表示成一个简单的向量,用来连接知识图谱中的两个实体。另外,本文提出了一个视觉短语的学习方法,来捕捉图像中实体之间的相互关系,从而提高模型关系抽取的能力。我们在两个真实数据集上的实验表明,融入文本信息到向量表示中,对模型的效果提升十分有效。模型的结果超过了目前这些数据集上最好的结果。同时,本文还提出了一个动态计算时间模型(RAM)。可以对递归神经网络的平均计算时间进行优化,进而能够有效的提取出图片中的主体,缓解关系抽取中目标检测模块的数据问题。我们改变了已有网络固定步长的架构,通过网络计算结果来判断何时该停止计算。为了完成这个功能,我们在RAM的每个计算单元中加入了“继续/停止”控制模块,我们通过强化学习来学习注意力策略以及停止策略。这个简单的改变却可以改善模型的计算模式,节约计算成本,同时几乎不会出现算法性能的下降。我们在细分类数据集CUB-200-2011和Stanford Cars dataset上做了实验,并验证算法的有效性。
基于用户长短期偏好的个性化音乐推荐算法研究
这是一篇关于推荐系统,循环神经网络,注意力模型的论文, 主要内容为音乐是人们生活中的重要娱乐方式,但在海量的音乐中,找到喜欢的歌曲已经成为了一种挑战。因此,音乐推荐已经成为现代音乐流媒体平台服务中的重要部分,能够减少用户的选择时间,提升用户体验,增加商业利益。本文研究推荐系统中的音乐推荐问题,即分析用户的兴趣,向用户推荐个性化的音乐列表。针对这一问题,本文做出了如下的研究工作:(1)本文提出了一个数据驱动的两段式音乐推荐框架,旨在为用户推荐合适的音乐列表。在第一阶段:(1)基于用户喜欢的音乐列表,使用矩阵分解获取用户对音乐的长期偏好;(2)基于歌曲的音乐上下文,使用段落向量等方法获得歌曲的音乐特征。在第二阶段,将用户对音乐的长期偏好、用户的历史播放记录中的歌曲的特征作为循环神经网络的输入,抓取用户对音乐的短期偏好,输出用户喜欢每一首歌的概率,并由此生成一个Top-k的音乐列表推荐。在该阶段,本文提出了两种基于注意力机制的长短期记忆网络模型,能够有效的抓取并结合用户对音乐的长短期偏好,提高推荐准确度,生成合适的音乐列表。(2)本文在数据驱动的两段式音乐推荐框架的基础上,提出一种基于用户长短期偏好的音乐列表推荐框架。其中,优化了用户长期偏好的提取过程,并提出了两种基于注意力机制的双向长短期记忆网络模型,利用用户喜欢的音乐列表抓取用户对音乐的长期偏好。该方法能够有效的规避矩阵中的稀疏性问题,并提高推荐准确度。(3)本文在真实的数据集上进行了实验,通过实验分析了关键参数对实验算法的推荐性能产生的影响,并与已有的经典音乐推荐系统方案进行对比,证明了本文提出的音乐列表推荐算法的有效性。
基于社会网络分析的电影推荐系统的设计与实现
这是一篇关于社会网络,推荐系统,社区划分,注意力模型的论文, 主要内容为在互联网高速发展的时代,电影数据资源呈指数级增长。当面临海量的电影信息时,用户通常很难快速准确地找到他们需要的信息,这导致用户需求得不到满足以及电影资源使用率不高。个性化推荐算法能够帮助用户找到有价值的信息,它通过用户的历史信息以及其他辅助信息对用户进行推荐。当前对于推荐算法的研究取得了一定的进展,然而,算法的推荐性能仍有改进的空间。随着社交媒体的发展,用户之间会产生信任、关注等交互关系。由于传统的协同过滤推荐算法的不足,本文基于社会网络的社区划分和社交影响力在推荐中的作用,并利用在经典电影数据集上进行实验,证明了算法的有效性。本文主要研究内容如下:(1)提出一种基于社区划分的推荐算法。首先,在传统的相似度计算方法上加入用户共同评价项目数量来计算用户间的相似度;其次,利用用户评分数据计算用户之间的直接信任度,通过直接信任的传播得到间接信任;然后,将相似度与信任度结合构建用户关系矩阵,随后根据用户关系矩阵构建用户网络,利用改进的Louvain算法对用户网络进行社区划分,再通过社区划分的结果生成最近邻居集合;最后,对尚未评分的项目做出评分预测,生成推荐列表。实验结果证明了该算法的有效性和精确性。(2)提出一种基于注意力模型的社会化推荐算法。首先,利用降噪自编码器建模用户、项目属性和社交信息,并得到三者的低维向量化表示;其次,计算用户与其所有的社交邻居的社交影响力;然后,通过注意力模型生成用户的社交上下文信息,为用户选择有影响力的社交邻居;最后,得到用户对项目的评分,从评分列表中向目标用户推荐其可能感兴趣的项目。与基准模型对比并分析参数来验证模型的有效性。(3)完成基于社会网络分析的电影推荐系统。系统基于B/S的设计模式,从用户需求出发,实现了电影推荐相关的功能模块。系统的实现解决了电影资源过载的问题,为用户选择电影提供了便利。综上所述,本文提出的算法在电影数据集上能够有效缓解数据稀疏问题,提升推荐效果,同时电影推荐系统能够为用户找到其可能感兴趣的电影,节省用户搜索时间。
基于注意力模型的社交推荐算法
这是一篇关于个性化推荐,注意力模型,社交网络,神经网络的论文, 主要内容为互联网的飞速发展引发了信息的爆炸式增长,让信息过载的问题日益严峻。推荐系统作为一种有效的信息过滤技术,大大方便了人们浏览信息的效率。其中最为流行的是基于协同过滤的推荐算法。但是受限于数据稀缺和冷启动的问题,这些传统的推荐算法在很多应用场景下的效果会大打折扣。近年来,随着社交平台的兴起,社交推荐成为了一种广泛应用的推荐方法。该类方法基于社交影响力理论,挖掘社交网络在推荐系统中的作用,从而缓解个性化推荐的数据稀疏性问题。因此,在社交推荐系统中,如何对社交影响力高质量的建模就成为了重要环节。然而,以往研究方法大多数简单建模社交影响力,忽略了社交影响力强度在推荐中的作用。此外,深度学习技术的浪潮给了推荐系统更多改进的机会。受益于其强大的特征表达能力,很多神经网络框架被运用到推荐系统中,帮助模型更好从原始数据中提取相关特征。本文就利用了一些深度学习中常用的技术来学习社交网络中包含的社交信息,并结合注意力机制的思想,建模了社交推荐模型中的社交影响力强度,旨在应用神经网络的相关结构捕捉到更合理的社交影响力信息。本文的贡献如下:(1)从社交影响力的有效建模入手,尝试运用注意力机制来学习社交网络中的社交上下文信息,作为影响用户偏好的另一部分因素。结合用户自身的潜在偏好特征,构成了预测评分的目标函数。由于本文关注于用户的隐式反馈行为,数据集也被处理成了相应的形式。(2)为提高模型的推荐效果和训练效率,采用了自编码器提取社交矩阵中隐含的结构信息,并将原模型中两部分的用户潜在特征向量的参数独立。多项比较实验展现了本文模型在社交推荐上的性能,并且验证了使用注意力机制模拟社交影响力的可行性。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设货栈 ，原文地址：https://bishedaima.com/lunwen/48584.html
