基于深度学习的点云补全算法研究

这是一篇关于点云补全,特征融合,多重损失,鲁棒性,自适应采样的非局部神经网络的论文, 主要内容为随着深度相机和激光雷达等低成本传感器的日益普及,其捕获的点云作为一种比二维图像更能描述场景的表示形式,广泛的应用在3D视觉领域。然而,由于分辨率的限制和相互遮挡,传感器获取的点云经常是不完整和稀疏的,往往会出现几何信息的丢失。这种不完整的场景信息对于许多下游应用是不够的,例如三维检测和自动驾驶。因此,从残缺点云中恢复细粒度的完整点云,一直是一项重要而具有挑战性的任务。由于计算机算力的增强以及大型合成形状数据集的出现,从大型数据集中学习数据驱动先验知识已成为目前最主要的研究方向。一些基于深度学习的模型采用端到端的方法直接将原始残缺点云数据作为输入推断出一个完整的3D形状,这些方法存在的共性问题是无法生成精细的目标形状。因此如何从残缺点云中重建出密集、均匀和细粒度的完整点云是一个难点。传感器扫描的原始点云不可避免的包含异常值或噪声,因此如何降低它们对点云补全任务的影响也是一个难点。针对上述两个问题,本文分别构建了基于特征融合的级联细化点云补全网络和基于自适应采样的非局部点云补全网络。主要研究内容如下:(1)由于遮挡、传感器分辨率有限和视角小,通过扫描设备采集的原始点云通常是稀疏、不规则和不完整的,严重影响了基于点云的下游视觉任务的效果。本文提出了基于特征融合的级联细化点云补全网络(CFF-Net),它具有两个分支网络。上分支网络用于生成粗略点云,以提取具有丰富信息的全局特征。下分支网络利用编码器提取了不同分辨率的点特征,将其与上分支的全局特征进行融合,通过注意力机制将融合后的点特征传递到解码器并引入多重损失函数,以生成均匀、密集和细粒度的完整点云。定量结果表明,CFF-Net相较于Top Net倒角距离减少了20.47%。定性结果表明,本文提出的CFF-Net取得更好的视觉效果。(2)点云在三维空间保留了原始几何信息,因此,它是许多场景理解相关应用的首选。然而,三维传感器采集到的点云通常是带有噪声或异常值的。本文提出的新补全方法,虽然生成了均匀、密集和细粒度的完整点云,但是它对噪声或异常值较为敏感。为了进一步提高网络的鲁棒性和重建质量,本文提出了基于自适应采样的非局部点云补全网络(PASF-Net)。将自适应采样的非局部神经网络作为PASF-Net的编码器,它能够降低噪声或异常点的影响和增强网络的特征提取能力。定量结果表明,PASF-Net相较于CFF-Net倒角距离减少了3.62%。定性结果表明,本文提出的PASF-Net输出了高质量的点云补全模型。

基于数据增强的知识图谱补全关键技术研究与应用

这是一篇关于知识图谱,知识图谱补全,数据增强,鲁棒性,医疗问答系统的论文, 主要内容为知识图谱作为一种结构化表示知识、存储知识的载体,逐步为各种搜索引擎、问答系统等提供数据支持和推理决策,是人工智能的核心关键技术。知识图谱补全技术是知识图谱研究中的热点核心问题之一。知识图谱的补全是指将知识图谱中缺失的实体、关系补充到图谱或者将新知识更新到图谱的过程。当前知识图谱补全技术主要依靠编码实体结构进行补全,但补全技术的研究依然面临诸多挑战。主要包括:(1)利用信息不完整。知识图谱补全方法仅利用实体结构进行补全,未充分考虑知识图谱中数据样本过少、关系长尾分布以及结构异构的问题;(2)补全模型不鲁棒。知识图谱数据质量不稳定,导致补全方法鲁棒性较差。这些问题严重制约着知识图谱补全技术的应用效果。针对知识图谱补全技术中结构异构、样本稀疏等利用信息不完整以及数据质量不稳定、模型鲁棒性差两大类科学问题,论文基于数据增强的思路提出补全方法,具体包括:(1)针对结构异构、样本稀疏问题,提出样本和特征增强的方法。该方法首先利用生成对抗网络预训练学习实体结构和内容特征生成的参数,通过训练成熟的生成器增加训练过程中实体的样本数量以及特征丰富程度;该方法利用实体的内容特征来弥补结构异构的缺陷,并通过自适应机制平衡两者之间的表达权重,以解决知识图谱中结构稀疏的问题。为验证基于数据增强的知识图谱补全方法的效果,论文在Wiki、NELL等5个真实知识图谱数据集上进行补全实验,实验结果表明论文提出的方法相较与其他方法补全效果显著提升,验证了基于数据增强方法的有效性。(2)针对数据质量不稳定及补全方法鲁棒性差的问题,提出基于卷积编码以及自注意力融合的方法。论文分析了各补全方法在知识噪声、数据扰动场景下的鲁棒性,提出卷积编码实体内容特征,利用自注意力机制进行融合,以解决数据质量不高的问题。为验证补全模型在存在数据噪音场景下的鲁棒性,论文在NELL等三个真实数据集上人为设计噪音进行补全实验,结果表明论文中的方法相较于其他方法具有较好的鲁棒性。论文针对数据质量不高的问题,提出基于数据增强的改进方法。实验结果表明基于数据增强的方法可以解决知识图谱领域中存在数据噪音的问题。(3)集成文章研究成果,应用于构建医学知识图谱问答应用。论文基于中文医疗知识图谱,爬取相关医疗信息,利用论文中的模型进行补全并验证模型鲁棒性。通过对比分析补全效果,论文发现基于数据增强的方法可以解决医疗知识图谱不完整、更新不及时等问题。论文在构建医疗问答系统的过程中,运用补全的方法对知识进行了补全和更新。通过对比分析问答系统前后的反馈信息,论文验证了基于数据增强方法在真实场景下的实用性。

基于强化学习的图对抗攻击算法研究

这是一篇关于图数据,图对抗攻击,图神经网络,对抗样本,强化学习,鲁棒性的论文, 主要内容为将深度学习模型应用于图数据之上,已经在很多图相关任务领域中表现出了优异的性能,例如社交网络和知识图谱等。但研究表明,与其它经典深度神经网络一样,当图神经网络的输入图数据中包含精心构造的对抗扰动时,模型性能会大幅度下降,这类含有恶意扰动的图数据被称之为对抗样本,构造对抗样本用于攻击图神经网络的过程就是图对抗攻击。现有图对抗攻击通常通过直接修改原始图的全局拓扑结构来构造对抗样本,但这种修改会改变图中重要的拓扑特性,容易被检测系统所察觉,因此在多数现实应用中并不可行。同时很多高性能的攻击方法假设攻击者能够获取目标模型的架构、梯度和参数等完整信息,但在现实场景中,往往无法获取目标模型的详细信息。针对上述问题,本文从以下两个方面进行了研究:(1)为了避免对抗攻击导致原始图中的拓扑结构信息被修改,提出了一种基于强化学习的单节点注入攻击算法(Single Node Injection Attack,SNIA),通过伪造具有虚假特征的虚假节点,并将其连接到图中的真实节点上。插入新节点的攻击策略可以在不改变图中现有连接结构的基础上达到攻击图神经网络模型的目的。同时为了确保虚假节点能够绕过检测系统不被目标模型所察觉,借鉴了生成对抗网络的原理,通过在SNIA模型中引入鉴别网络来达到生成的虚假节点与原始节点具有相似特征的目的。SNIA将添加虚假节点的过程建模为马尔科夫决策过程,其中当前图结构表示状态,选择节点作为动作,并使用强化学习算法评估每个动作以生成对抗样本。经过实验证明,SNIA所得到的对抗样本能够使得目标图卷积网络模型的误分类率达到80%左右,同时可以用于攻击多种不同类型的图神经网络模型。(2)为了进一步提高扰动的不可察觉性,本文考虑了更加受限的实际攻击场景,提出了基于强化学习的单节点对抗攻击(Single Node Adversarial Attack,SNAA),SNAA仅通过修改图中目标节点的一阶邻居节点特征来构造扰动。SNAA首先将修改节点特征的过程建模为马尔科夫决策过程,使用当前图表示状态,动作为修改节点特征,然后使用基于Actor-Critic框架的强化学习算法评估每个动作以生成扰动。并且为了进一步提高扰动的效率,研究了多种选择被攻击节点的方法。通过在多个数据集上进行实验,表明了SNAA能够对各种图神经网络实施有效的攻击;对比多种基线算法表明,攻击单个节点的特征比攻击单条边更加有效。本论文所提出的两种图对抗攻击算法均属于间接攻击,即并不直接攻击目标节点,这种攻击策略在物理世界中更具实用性,因为攻击者通常只能操纵自己的节点。使用本文所提出的攻击算法得到的对抗样本,利用对抗学习框架训练鲁棒性图神经网络模型。实验结果表明,对抗训练后的模型对对抗性扰动表现出一定程度上的防御能力。通过对图数据上对抗攻击算法的研究,能够了解图神经网络在面对恶意攻击时的鲁棒性,从而进一步提高模型的可解释性,推动图神经网络能够应用于更广泛的领域。

植入式PEDOT:PSS类导电聚合物神经电极界面构筑及其神经信号记录

这是一篇关于神经生物电子,导电聚合物水凝胶,鲁棒性,电聚合,植入式微电极的论文, 主要内容为神经生物电子学研究对于破译人类思维的基本机制和治疗神经性疾病至关重要。随着微电子植入技术的发展,在AI技术与神经生物电子领域的交叉融合下,更符合大脑的“电药”对神经退行性疾病和神经缺陷导致的功能障碍性疾病的治疗具有良好的应用前景。植入式神经微电极作为脑组织和电子设备之间的桥梁,用于神经元刺激或信号记录的功能性微型器件,以治疗和评估脑部疾病患者的异常大脑活动。当前神经微电极大多选用硬质硅或金属材质(铂、铱、钨、镍铬等)与脑组织直接接触,存在电化学性能差、机械性能不匹配、生物相容性差、无法长期稳定的神经刺激与记录等问题。为了解决这些科学问题,需要在神经电极和神经组织之间构筑高性能、特异性和低侵入性的神经微界面。在过去的几十年,导电聚合物类界面作为神经微电极和脑组织之间的缓冲层材料引起了人们的关注。尤其是聚(3,4?二氧乙撑噻吩):聚(苯乙烯磺酸)(PEDOT:PSS)已经成为神经生物电子界面广泛研究与应用(植入式电极记录和刺激、神经再生和治疗药物递送等)的材料之一。由PEDOT:PSS类导电聚合物界面修饰的神经微电极具有高信噪比(SNR)记录的电导性、安全高效刺激的电荷注入能力以及类组织的机械性能。然而,在脑组织环境下,现存导电聚合物基界面仍然存在杨氏模量高、界面粘附弱、长期稳定性差以及组织不匹配等性能缺陷,严重阻碍了其器件化、商业化及实际应用。然而,高性能神经电极界面材料的合理设计、性能指标的全面评价及微电极器件的构筑是制约导电聚合物神经微电极实际应用的关键。本论文以PEDOT:PSS类导电聚合物作为界面导电层来增强电容及离子-电子传输能力,分别设计并制备了强粘附且高电容PEDOT-Me OH:PSS/PDA神经电极界面、采用简单的一步电化学技术构筑了柔软且鲁棒性的PU-PEDOT:PSS水凝胶界面以及首次实现了高性能导电聚合物水凝胶在微型化且多通道微电极界面修饰并成功植入大脑实现长期稳定的记录。初步探究了界面粘附机理并论证了导电聚合物水凝胶相网络结构关系。系统研究了PEDOT:PSS类导电聚合物界面的机械性能、电化学性能和活体神经信号记录能力,并提出了评价神经电极界面长期稳定性的新方法。最终,成功地将导电聚合物水凝胶界面修饰的微电极器件植入小鼠大脑皮层,实现了高分辨率的慢性神经电生理记录,为PEDOT:PSS类导电聚合物界面的器件化、商业化及实际应用做出了一定的技术支持与理论指导。具体研究内容和结果如下:1、提出了粘附型界面锚定策略,通过两步电聚合技术进行分子工程调控构筑了互穿式导电聚合物网络,制备了强粘附PEDOT-Me OH:PSS/PDA界面,解决了现存导电聚合物界面材料在神经生物电子领域弱粘附、低电容问题。在神经生物电子领域,导电聚合物由于其良好的生物相容性、电化学性能和机械性能被认为是一种有前景的神经电极界面材料。然而,现有导电聚合物的神经界面仍然存在复杂的制备过程、弱界面粘附能、差的长期稳定性以及高成本的微细加工等挑战和限制,严重阻碍了实际应用和市场化。因此,本工作通过简单的两步电聚合方法开发了一种强粘附的导电聚合物神经电极界面,即先将聚多巴胺(PDA)预聚合为粘附性薄层,然后将羟甲基化的3,4-亚乙基二氧噻吩(EDOT-Me OH)与聚苯乙烯磺酸盐(PSS)电聚合,形成双层互穿PEDOT-Me OH:PSS/PDA网络。基于上述设计,我们所制备的PEDOT-Me OH:PSS/PDA界面对金属电极的界面粘附力有明显的提高,持续超声处理20分钟后面积保持率高达93%。根据我们所掌握的设计与技术,将PEDOT-Me OH:PSS/PDA界面制作在超小的Pt-Ir微丝电极(直径:10μm)上。该微丝电极界面修饰后比商业化微丝电极的界面阻抗低两个数量级。修饰后的微丝电极长期稳定性优异,在10,000,000次双相注入脉冲周期后,电荷注入容量保持率高达99.5%。基于上述发现,这种简单的方法和制造技术所构筑的高性能和长期稳定的神经界面,有望为先进的神经科学研究和前沿的临床应用提供新产品。2、首次提出了复合共聚双连续微相半分离导电聚合物水凝胶策略,采用简单且低成本的一步电接枝方法构筑了柔软且鲁棒性PU-PEDOT:PSS水凝胶界面,规范了神经电极界面的评价体系,实现了导电聚合物水凝胶在神经生物电子领域的新突破。采用简单、低成本的一步电合成技术,利用PEDOT:PSS与聚氨酯(PU)通过分子机械互锁策略从而构筑双连续微相半分离相网络结构的水凝胶界面。采用该策略制备的PU-PEDOT:PSS水凝胶界面比PEDOT:PSS界面更软(杨氏模量约10 MPa),与脑组织的适配性更佳;经过超声处理无显著分层(>1 h),该现象表明该界面与电极界面粘附稳定;模拟微电流双向注入脉冲刺激5亿次后CIC值没有显著变化(<10%),在体外具有优异的长期稳定性。基于上述优势性能和简单且低成本的电化学集成技术,我们在微丝神经电极上构筑了PUPEDOT:PSS水凝胶界面。因此,电聚合PU-PEDOT:PSS水凝胶界面可以成功地实现商业化电极的简便、低成本集成,有效提升商业化电极产品性能并在脑机接口领域有望进一步推广应用并做出一定的理论指导。3、成功实现了导电聚合物水凝胶在植入式阵列微丝神经电极微界面的可控修饰,集成了长期稳定、信号灵敏和高分辨率的微电极界面并开展了动物实验论证,为导电聚合物水凝胶微电极界面在神经科学研究和前沿临床应用的大规模开发和实际应用奠定了基础。植入式神经微电极借助微加工技术来实现可选择性、高保真、长期稳定的大脑信号记录是神经科学发展与进步的关键。尽管逐步向微型化发展,但仍然没有明确的解决方案和开发具有长期稳定且生物相容性的微电极界面器件,以便集成并保持记录神经元信号的能力。为此,我们制备了直径仅为10μm的微丝电极器件来提高微电极的空间分辨率,采用精准可控的电合成技术将PEDOT:PSS导电相和PU力学相共沉积在微丝电极记录位点,从而构筑一层强粘附、高电容且长期稳定导电聚合物水凝胶微界面。该微加工策略有效地在直径为10μm的16通道微电极器件构筑了强粘附导电聚合物水凝胶界面,实现信号强度弱、有针对性的神经元群体的生物电位记录。甚至长期植入小鼠大脑仍然可持续记录到单个神经元信号,用于长期稳定和选择性的神经记录,可能会促进神经科学研究和临床神经技术的发展。综上所述,本论文首次提出了双层互穿式导电聚合物界面的分步电沉积和双连续微相半分离导电聚合物水凝胶界面一步电合成接枝的设计策略,分别构筑了强粘附且高电容导电聚合物界面和柔软且鲁棒性的导电聚合物水凝胶界面,揭示了基于分子工程与相工程改性的导电聚合物界面机理,规范了长期稳定性的评价体系,首次实现了导电聚合物水凝胶界面在高空间分辨率且超小微电极记录位点的快速集成,成功解决了当前导电聚合物界面存在的粘附性弱、组织适配性差、长期稳定性差以及微加工制备复杂等关键问题,进一步为高性能导电聚合物神经电极界面实现器件化、商业化及临床应用给与理论指导与技术支持。

基于图卷积与数据增强的点云分类方法研究

这是一篇关于点云分类,特征提取,孪生自适应图卷积,数据增强,鲁棒性的论文, 主要内容为分析和处理点云数据可以帮助计算机更好地理解真实世界,点云分类作为点云数据处理的一个重要分支,在机器人、自动驾驶和智慧城市等应用领域具有重要的研究意义与研究价值。一方面,鉴于点云数据缺乏拓扑信息及其具有稀疏性和不规则性,目前点云分类网络难以提取有效的特征;另一方面,由于采集环境和采集手段等因素的影响,点云数据不可避免地存在腐败,而现有训练策略无法使点云分类模型具备良好的抗腐败能力。针对上述问题,本文基于深度学习技术对点云分类方法进行了研究,研究内容主要包括:(1)针对现有点云分类方法难以提取有效特征的问题,本文提出了一种孪生自适应图卷积算法(SAGCA)。本算法通过构建孪生自适应图来表示点云数据间的拓扑关系,并采用图卷积的方式,对原始特征进行加权和融合,以提取更关键的特征。此外,为了更好地完成点云分类任务,采用局部、整体两种方式,将SAGCA与各种点云分类网络相结合,同样以孪生自适应的方式构建特征关系图,前者深入挖掘局部的上下文信息,后者充分把握整体的拓扑关系,从而增强分类网络的特征提取能力。在公开数据集Model Net40和Scan Object NN上对所提算法的性能进行评估,实验结果表明,SAGCA应用于不同的点云分类网络后,网络的分类性能均得到有效提升,且较当前主流分类方法具有一定优势。(2)针对现有点云分类方法抗腐败能力不足的问题,本文提出了一种转换-噪声-密度数据增强方法(TND)。该方法对点云训练集依次采取形态学转换、增添噪声和混合改变密度操作,模拟了真实环境下常见的腐败,使点云分类模型的抗腐败性能在训练过程中得到显著提升。在包含多种不同程度腐败的公开数据集Model Net40-C上对所提方法的有效性进行验证,实验结果表明,TND与其他数据增强方法相比,能更显著地增强多种点云分类网络应对腐败的鲁棒性。

基于不同支付条件的鲁棒性建设项目调度多目标优化研究

这是一篇关于项目调度,多目标优化,鲁棒性,净现值,支付条件的论文, 主要内容为在资源受限项目调度问题研究中,通常以工期最短、费用最低作为目标,但随着建设行业发展,项目的投资金额与建设周期也随之见长,这使得项目管理者将净现值最大化作为管理目标之一。在以往的研究中,通常假设项目执行环境是确定的,相关参数(例如活动持续时间)已知,且在项目执行过程中不会发生改变。但在现实中,建设项目的执行环境往往是不确定的,在建设项目执行过程中,外部与内部因素可能会导致调度计划会变得不可行,因此管理者也会用项目鲁棒性最大化作为管理目标以增加调度计划的抗干扰能力。项目调度的本质往往是在多个目标之间权衡,有关于净现值和鲁棒性双目标问题的深入研究、模型建立、解决方法等都有待完善。因此,本文对资源受限下净现值-鲁棒性建设项目调度多目标优化问题展开了研究,并将对净现值产生影响的工程款支付方式引入到了该问题的数学模型中,分别是里程碑支付、周期支付、累计时间支付和累计挣值支付。基于研究问题,首先,建立了基于不同支付条件下资源受限型净现值-鲁棒性建设项目调度多目标优化模型,鉴于该问题的NP-hard特性,选择并设计了遗传算法与Epsilon方法相结合的混合算法用于求解模型;其次,从项目调度问题算例库(Project Scheduling Library,PSPLIB)中选取了J30算例,用于测试算法性能,并从不同的支付条件出发分析了项目净现值和鲁棒性,同时对关键参数进行了敏感性分析,综合数值实验结果提出了相应的项目管理启示;最后,为说明构建的模型和设计的算法在实际建设项目中的实用性,本文还引入了一个实际工程,分析了结果并给出了管理建议。研究结论主要表现在以下几个方面:第一,净现值和鲁棒性两者存在权衡关系,随着净现值增加,鲁棒性会减小,需要决策者根据目标偏好进行决策。第二,在四种不同支付条件下,采用累计挣值支付条件所得到的项目净现值最大,采用里程碑支付条件所得到的项目净现值最小。第三,从项目特征来看,资源需求量越大,净现值越大;项目工序越复杂,鲁棒性越大。第四,从合同条款来看,挣值系数、支付比例、支付次数这些参数取值越大,项目净现值越大。本文的研究工作能够为承包商在和业主进行合同判时提供谈判依据,为承包商编制进度计划提供有效的决策依据。有助于承包商构建一个能实现财务目标和项目稳健性的调度计划,合理安排各活动开始时间,优化资源配置,从而提升项目管理水平,提高企业的竞争能力。

审查规避类加密流量恶意性检测

这是一篇关于审查规避,加密流量,机器学习,生成对抗网络,鲁棒性的论文, 主要内容为恶意软件使用加密流量躲避网络分析和检测已屡见不鲜,而近年来随着审查规避技术日新月异,恶意软件为了更有效地规避网络审查而滥用这一技术不断更新换代,以致审查规避类加密恶意流量呈现出变化迅速、种类多样、攻击性强、隐蔽性高等特点,而且还出现了针对机器学习算法本身的对抗性攻击,导致目前1)针对传统加密恶意流量的特征集已不能保证对审查规避类加密恶意流量的表征能力;2)常用的权威流量数据集无法涵盖日新月异的审查规避类加密恶意流量样本形态;3)静态被动的检测模型呈现出明显的被动性、滞后性和脆弱性,给传统的加密流量恶意性检测方案带来巨大威胁。因此,需要研究一种针对审查规避类加密恶意流量的更高效、更准确,且能抵御对抗性攻击的强鲁棒检测方案。从审查规避型恶意软件的恶意性本质所反映的流量行为入手,结合TLS协议的发展现状,提取了更细节、精准的TLS交互特征,和能够反映恶意软件的隐蔽通讯方式与行为的数据包级特征、数据流级特征和新颖的时空联合特征这三种流量统计特征,构建了区分度高、表征能力强的流量特征集;并使用随机森林和Light GBM机器学习算法构建检测模型,分别验证了TLS交互特征和流量统计特征对于各种审查规避类加密恶意流量的强大表征能力,构建的检测模型在面对不同规避类型的加密恶意流量样本时均能表现出优异性能,分别达到了98.6%和97.8%的准确率。从数据流和TLS Client Hello消息两个层面的相关流量特征入手,利用生成对抗网络技术,批量生成能通过对抗型审查规避类恶意程序的形态验证且保持恶意攻击功能的对抗性规避样本,实验结果表明这些样本使得上一步构建的检测模型准确率下降到7%左右,漏报率蹿升到93%左右,验证了对抗性规避样本强大的伪装能力和优秀的规避效果,并结合常规流量样本集构建了高对抗性流量数据集。同时,鉴于检测模型依然存在“概念漂移”问题,首先设定数据集更新周期,定期加入新收集的常规样本和新生成的对抗性规避样本,淘汰老旧的流量样本,然后定期重新训练检测模型以动态增强并维持模型的鲁棒性,实验结果表明这一方法可以使检测模型的准确率一直保持在95%以上,实现了检测方案从被动到主动的转变,使其在当下和未来均能保持良好的鲁棒性。最后完成了审查规避类加密恶意流量强鲁棒检测方案的原型系统设计与实现,同时开发了B/S架构的Web框架,提高了原型系统的检测效率和使用者的操作体验,并结合SMOTE过采样算法对原型系统进行一定的改进,解决了其在实际网络环境中正负训练集严重不平衡时可能给模型的训练带来偏差的问题;然后将原型系统部署在校园网真实网络环境中并进行各项测试,使用Virus Total辅助证明了原型系统的检测有效性和前瞻性,验证了原型系统符合网络安全人员的实际使用需求。