基于超图卷积网络的社交推荐算法研究
这是一篇关于社交推荐,超图卷积网络,图融合,自监督的论文, 主要内容为随着互联网和大数据的快速发展,庞杂且多样化的信息呈现在人们面前,然而如何从中选取自己感兴趣的信息却成为了一件难事。社交推荐作为一种有效解决信息过载的方法之一,它可以更好地利用社交关系来辅助推荐系统为人们提供服务,因此受到了广泛的关注。基于图卷积网络的社交推荐可以较好地对社交关系进行建模、准确地描述真实用户的偏好,但目前基于图卷积的社交推荐算法研究仍存在忽略不一致的社交影响和数据稀疏性等问题。为此,本文根据具体的用户场景对基于超图卷积网络的社交推荐进行研究。具体研究内容如下。首先,针对忽略用户间社交关系所带来的不一致的社交影响问题,提出了基于超图卷积网络的图融合社交推荐模型。该模型使用超图卷积网络对超图中的用户、商品和用户之间的社交关系进行建模,来捕捉不一致的社交影响和用户推荐偏好;使用图卷积网络来学习用户商品图中的节点表示;通过图融合操作,即一系列的特征转换和非线性激活操作,将从用户商品交互图和社交图中学习到的不同的嵌入表示进行整合,得到用于推荐预测的嵌入表示。其次,针对超图存在的数据稀疏性问题,提出了基于超图卷积网络的自监督社交推荐模型。该模型通过用户、子超图和超图三个层次之间的分层对比学习,以最小化成对排序损失作为学习目标,间接最大化学习到的用户表示与超图表示之间的相互信息。通过联合学习的方式将统一在由以社交推荐任务为主任务和以自监督任务为辅助任务所组成的学习框架下。最后,在两个包含分享、团购等用户行为的真实数据集上对提出的模型进行实验验证。采用推荐系统中常用的召回率和归一化折损累计增益作为评价指标,并与其它的社交推荐方法进行对比,验证了本文提出的两个模型的有效性。
融合触发词注意力机制的关系抽取方法研究
这是一篇关于关系抽取,关系触发词,注意力机制,自举法,自监督的论文, 主要内容为关系抽取旨在从非结构化的文本数据中提取出特定实体间的语义关系,是知识图谱构建、智能问答、个性化推荐等领域的核心技术。在封闭域关系抽取中,关系触发词作为能够清晰判断给定关系类型的上下文语境词,一直没有得到充分利用,这主要是由于人工标注成本高和没有切实可行的自动标注方法等原因造成。针对上述问题,提出一种可用于自举法的融合触发词注意力机制的关系抽取模型RETA。首先,在构造输入序列中,为防止实体重叠嵌入,使用ARG标识代替句子中的头、尾实体词项,再将头尾实体拼接至输入序列尾部,以实体感知的方式对句子进行编码,进而构造上下文向量矩阵;然后,使用BERT模型生成文本向量,将其输入MLP全链接神经网络以增强文本表示,借助注意力机制将文本表示通过softmax函数进行归一化计算,得到关系触发词开始和结束位置的概率分布;其次,融合触发词的注意力到关系预测当中,使用触发词头尾的权重向量计算权重总和,得到最终的特征向量表示,实现融合触发词注意力特征的文本内容建模;最后,采用多任务学习的方式优化模型,使用交叉熵损失作为每一个任务的损失函数,并利用触发词的预测概率建模置信度来调节损失函数的权重,从而实现整体的优化。在篇章级DialogRE数据集中F1值较基准模型BERT、BERTs、CNNRE、BiLSTM和LSTM分别有3.5%、1.9%、14.4%、15.0%和13.8%的提升;在句子级数据集SemEval 2010 task 8和Re-TACRED上F1值较基准模型CNNRE、BiLSTM、DepPath和BERT均有不同程度提升,最高达13.4%。在DialogRE数据集上仅通过2个epoch训练,F1值既可超过55%;在Re-TACRED数据集上通过6个epoch训练,F1值既可达到45%。实验表明,融合触发词注意力机制的关系抽取模型RETA有着更好的抽取性能,训练效率高,进而证实关系触发因素在引导模型学习中起着至关重要的作用。论文有图21幅,表16个,参考文献55篇。
基于Grad-CAM引导的对抗攻击算法研究
这是一篇关于对抗攻击,Grad-CAM,数据增强,自监督,迁移性的论文, 主要内容为图像分类技术因其优秀的性能而被广泛应用于自动驾驶、人脸识别等领域,但目前的图像分类技术很容易受到对抗攻击的影响,导致其分类功能近乎失效。然而现有对抗攻击算法过度依赖源模型的参数和梯度信息来进行攻击,忽略了泛化性更强的特征信息,从而导致其所制作的对抗样本的迁移性和隐蔽性较差,在黑盒测试模型上攻击成功率较低。针对此缺点,本文研究图像的黑盒攻击算法,主要的研究工作和创新如下:(1)在图像的经典对抗攻击算法中,通过分析引入动量手段、引入数据增强方法、引入注意力机制这三种经典攻击算法,得出基于迁移的对抗攻击算法的研究框架。通过实验结果与分析,发现:1)对抗攻击实质是基于特征的攻击;2)对抗攻击算法中引入随机数据增强方法,会存在效率低和隐蔽性差的缺点。因此,在充分考虑上述算法优点的基础上,提出针对泛化性更强的特征进行攻击的算法设计思路。(2)针对随机数据增强方法存在的不足,提出基于Grad-CAM区域的对抗攻击算法(Grad-CAM Guided Data Augmentation Attack Method,GCG-DAAM)。GCG-DAAM通过模型对于图片的加权梯度类激活映射图(Gradient-weighted Class Activation Map,Grad-CAM)来获取到模型在图片上的主要判决区域,再基于此特征区域进行攻击可以进一步提高所制作对抗样本的迁移性;并且设计平滑掩膜的损失函数来使对抗样本更加自然。实验结果表明,GCG-DAAM所制作的对抗样本的迁移性更好,所需要添加的平均扰动量更少。(3)为进一步获得泛化性更强的特征来进行攻击,且考虑到有监督学习的特征泛化性不足的问题,提出引入自监督特征的GCG-DAAM。基于自监督学习,设计改进后的Grad-CAM获取模块,将自监督模型的Grad-CAM与有监督模型的Grad-CAM进行加权融合,使最终结果兼顾判决性和全局性;同时,由于人眼对于物体的形状变化更加敏感,设计边缘损失函数来限制对物体边缘区域的扰动。实验结果表明,引入自监督特征的GCG-DAAM在对抗样本的迁移性和不同模型上的攻击成功率都有所提高,在Image Net数据集上的测试结果较基准方法提升了1%至3%。
基于Grad-CAM引导的对抗攻击算法研究
这是一篇关于对抗攻击,Grad-CAM,数据增强,自监督,迁移性的论文, 主要内容为图像分类技术因其优秀的性能而被广泛应用于自动驾驶、人脸识别等领域,但目前的图像分类技术很容易受到对抗攻击的影响,导致其分类功能近乎失效。然而现有对抗攻击算法过度依赖源模型的参数和梯度信息来进行攻击,忽略了泛化性更强的特征信息,从而导致其所制作的对抗样本的迁移性和隐蔽性较差,在黑盒测试模型上攻击成功率较低。针对此缺点,本文研究图像的黑盒攻击算法,主要的研究工作和创新如下:(1)在图像的经典对抗攻击算法中,通过分析引入动量手段、引入数据增强方法、引入注意力机制这三种经典攻击算法,得出基于迁移的对抗攻击算法的研究框架。通过实验结果与分析,发现:1)对抗攻击实质是基于特征的攻击;2)对抗攻击算法中引入随机数据增强方法,会存在效率低和隐蔽性差的缺点。因此,在充分考虑上述算法优点的基础上,提出针对泛化性更强的特征进行攻击的算法设计思路。(2)针对随机数据增强方法存在的不足,提出基于Grad-CAM区域的对抗攻击算法(Grad-CAM Guided Data Augmentation Attack Method,GCG-DAAM)。GCG-DAAM通过模型对于图片的加权梯度类激活映射图(Gradient-weighted Class Activation Map,Grad-CAM)来获取到模型在图片上的主要判决区域,再基于此特征区域进行攻击可以进一步提高所制作对抗样本的迁移性;并且设计平滑掩膜的损失函数来使对抗样本更加自然。实验结果表明,GCG-DAAM所制作的对抗样本的迁移性更好,所需要添加的平均扰动量更少。(3)为进一步获得泛化性更强的特征来进行攻击,且考虑到有监督学习的特征泛化性不足的问题,提出引入自监督特征的GCG-DAAM。基于自监督学习,设计改进后的Grad-CAM获取模块,将自监督模型的Grad-CAM与有监督模型的Grad-CAM进行加权融合,使最终结果兼顾判决性和全局性;同时,由于人眼对于物体的形状变化更加敏感,设计边缘损失函数来限制对物体边缘区域的扰动。实验结果表明,引入自监督特征的GCG-DAAM在对抗样本的迁移性和不同模型上的攻击成功率都有所提高,在Image Net数据集上的测试结果较基准方法提升了1%至3%。
基于超图卷积网络的社交推荐算法研究
这是一篇关于社交推荐,超图卷积网络,图融合,自监督的论文, 主要内容为随着互联网和大数据的快速发展,庞杂且多样化的信息呈现在人们面前,然而如何从中选取自己感兴趣的信息却成为了一件难事。社交推荐作为一种有效解决信息过载的方法之一,它可以更好地利用社交关系来辅助推荐系统为人们提供服务,因此受到了广泛的关注。基于图卷积网络的社交推荐可以较好地对社交关系进行建模、准确地描述真实用户的偏好,但目前基于图卷积的社交推荐算法研究仍存在忽略不一致的社交影响和数据稀疏性等问题。为此,本文根据具体的用户场景对基于超图卷积网络的社交推荐进行研究。具体研究内容如下。首先,针对忽略用户间社交关系所带来的不一致的社交影响问题,提出了基于超图卷积网络的图融合社交推荐模型。该模型使用超图卷积网络对超图中的用户、商品和用户之间的社交关系进行建模,来捕捉不一致的社交影响和用户推荐偏好;使用图卷积网络来学习用户商品图中的节点表示;通过图融合操作,即一系列的特征转换和非线性激活操作,将从用户商品交互图和社交图中学习到的不同的嵌入表示进行整合,得到用于推荐预测的嵌入表示。其次,针对超图存在的数据稀疏性问题,提出了基于超图卷积网络的自监督社交推荐模型。该模型通过用户、子超图和超图三个层次之间的分层对比学习,以最小化成对排序损失作为学习目标,间接最大化学习到的用户表示与超图表示之间的相互信息。通过联合学习的方式将统一在由以社交推荐任务为主任务和以自监督任务为辅助任务所组成的学习框架下。最后,在两个包含分享、团购等用户行为的真实数据集上对提出的模型进行实验验证。采用推荐系统中常用的召回率和归一化折损累计增益作为评价指标,并与其它的社交推荐方法进行对比,验证了本文提出的两个模型的有效性。
基于平均视觉和仿射变换的自监督部件分割方法及其应用
这是一篇关于部件分割,自监督,仿射变换,细粒度识别,行人重识别,脸部编辑的论文, 主要内容为利用部件分割算法提取对象的部件表征,从部件层次上感知和分析对象得到了越来越多的关注。与语义分割相比,部件分割需要更精细的数据标注和部件层次的框架设计,面临的挑战更大。目前自监督部件分割方面的工作较少,同时低数据依赖的语义分割工作也难以迁移到该任务上来。本文优化并提出了多种自监督的部件分割算法,降低对标注数据样本的依赖,并探究了自监督算法生成的部件在下游任务中的应用。本文的主要工作和创新点如下:(1)针对基于约束的工作仅在特征空间定位部件的问题,本文提出了一种基于平均视觉约束的自监督部件分割算法MVCPS,在图像空间而非特征空间寻找对象本身的视觉一致性。首先按部件分割结果提取各部件内的平均像素,接着按部件填充平均像素以生成重构图像,约束原始图像与重构图像的差异,指导网络生成更准确的部件分割结果。相较于SCOPS算法,在CUB-200-2011数据集上整体MAE误差降低了6.4%。(2)针对仅利用单一静态图像定位部件的问题,本文结合对象运动信息,提出了一种基于仿射变换的自监督部件分割算法AFFPS,并针对易导致模型无法收敛的四个挑战给出了相应的解决方法。该方法通过部件拆分、仿射矩阵获取和部件独立仿射变换生成重构图像。通过约束重构图像和参考图像之间的差异,生成准确的部件分割结果。相较于目前性能最好的MSCS和MRAA算法,在Tai-ChiHD数据集上MAE误差降低了3%-12%,IOU指标提升了5%-11%。在Vox-Celeb数据集上MAE误差降低了6%-19%。(3)探索自监督部件在下游任务中的应用。针对细粒度识别任务,提出了基于部件的Part Mix数据增强算法,使Res Net-50在CUB-200-2011数据集上的细粒度识别精度提升1.34;针对行人重识别任务,提出了基于部件的全局-部件-前景三特征分支行人重识别框架Part Re ID,在Market-1501和Duke MTMC-re ID数据集上的m AP分别达到87.3和78.0,相较于基准算法Reid-strong,在课题组构建的行人数据集HNU-re ID上的跨域重识别m AP和Rank-1分别提升了6.5-7.3和9.4-12.4;针对脸部编辑任务,设计了基于部件的脸部编辑框架Partfake,并开发了便于用户使用的脸部编辑演示系统。本文针对现有工作仅在特征空间定位部件和仅利用单一静态图像定位部件的问题,提出了基于平均视觉约束的自监督部件分割算法MVCPS和基于仿射变换的自监督部件分割算法AFFPS,并通过多个下游视觉任务中的实际应用验证了算法的有效性,为部件分割技术的实际应用提供了借鉴和思路。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：源码客栈 ，原文地址：https://bishedaima.com/lunwen/54558.html
