基于微服务架构的边缘智能平台的设计与实现
这是一篇关于边缘智能,微服务,容器,服务调度,任务调度的论文, 主要内容为近年来,为应对海量设备接入以及数据处理带来的挑战,边缘计算应运而生。边缘计算通过将计算资源部署在靠近设备的网络边缘,为接入设备提供低延迟、高效率的数据处理能力。同时,各种新兴业务层出不穷,使得物联网设备数据的智能化推理需求不断增加。因此,边缘智能成为边缘计算中重要的应用场景,而作为其实现的载体,边缘智能平台的相关研究便尤为关键。如何构建高扩展且服务灵活伸缩的平台,并且节点资源如何合理分配以提高服务的部署效率、各节点如何相互协作以降低数据推理任务的完成时延,对边缘智能平台的功能、架构设计来说是一个挑战。因此,本文对边缘智能平台的相关问题展开研究,主要贡献包含以下四个方面。一、深入分析了边缘智能平台的相关需求以及挑战。针对分布式边缘节点的资源管理、服务调度管理等需求,基于docker以及Kubernetes进行了平台的云边协同架构设计,实现了云边间的资源协同、服务编排协同以及数据协同;针对设备数据从采集筛选、边缘推理至云端导出的处理流程需求,提出了一种基于微服务架构的分层软件模型,使得平台兼具高可扩展与灵活部署的优点。同时,为应对平台中多类型边缘推理任务并发执行的挑战,进行了任务并发调度机制以及任务排队分发机制的设计,实现了多任务协同处理的能力。通过平台的相关设计,为后文服务调度、任务调度问题的研究奠定了基础。二、在服务部署方面,Kubernetes面向云计算场景提供了一种均衡节点资源利用率的服务调度策略。然而该策略忽略了服务间的调用关系以及节点间的网络拓扑,并且在异构资源分配以及镜像分发等方面的考虑有所欠缺。为解决上述问题,本文提出一种基于多准则决策的服务调度算法。算法中考虑了服务间的跨节点数据传输时延、服务请求资源与节点剩余资源的相似度以及节点的镜像层缓存,并对应地设计了三种优选函数对节点进行优先级打分。然后基于TOPSIS(Technique for the Order of Prioritization by Similarity to Ideal Solution)算法对上述打分结果进行均衡分析,最终返回多指标约束优化的服务部署节点。仿真结果表明,相比于Kubernetes默认调度策略以及加权归一化排序的服务调度策略,本文所提算法在数据传输时延、集群均衡度以及服务部署时延上,分别降低了 3 1%/15%,40%/5%,30%/24%。三、在平台响应推理任务方面,由于单节点资源受限,并且边缘侧的任务请求存在波动性,基于内容二算法实现的静态服务预部署方案难以满足任务的执行需求。因此,本文对服务伸缩与任务卸载调度的协同优化展开研究。首先对任务在容器中的排队执行过程进行建模分析,并设定了降低任务平均完成时延的优化问题。在问题求解过程中,将其分解为服务伸缩决策以及任务卸载决策两个子问题,分别提出了基于动态规划的伸缩决策算法以及启发式任务调度算法,实现对任务请求的自适应优化调度。仿真结果表明,相较于Kubernetes中默认的轮询负载均衡算法以及无服务伸缩的启发式任务调度算法,本文所提算法在平均完成时延方面减少了约41%和26%。同时,当任务类型动态变化时,本文所提算法依旧可以保持最优的执行性能。四、基于上述对平台的架构、软件模型以及服务调度算法、任务调度算法的设计与研究,进行了边缘智能平台的原型搭建。并通过人脸识别与行人检测业务,以UI前端的方式对平台的数据推理能力进行了展示。
基于容器的边缘智能平台设计与实现
这是一篇关于边缘智能,Kubernetes,微服务,人脸识别,服务调度的论文, 主要内容为随着物联网和人工智能技术的不断发展,在终端设备上部署人工智能应用可以为垂直行业应用和生活提供巨大便利。然而,云计算模式无法充分利用边缘节点上的基础设施资源,同时,当业务流请求增大时,不但会对云端的计算、网络、存储等资源造成极大压力,还会导致较大的服务响应时间和用户隐私安全风险等问题。边缘计算将计算、存储等资源部署到网络边缘,虽然解决了云计算资源紧张、服务响应时间大等问题,但是,人工智能的复杂性也为人工智能应用与边缘计算的融合带来了巨大的挑战。因此,构建高效的边缘智能平台框架对在边缘计算环境中部署人工智能应用具有重要意义。论文针对基于容器化的边缘智能平台设计与实现问题,以云原生Kubernetes集群框架为基础设施,以容器技术为应用载体,以微服务架构为服务范式,以人脸识别为典型数据密集型应用,所做的主要研究工作和创新点包括:(1)采用Kubernetes作为容器编排平台,提出了一种基于容器的边缘智能平台框架(CB-EIP),设计并实现了 CB-EIP平台及其相关功能模块;基于云边通信模块和端设备管理模块,解决了云边端的通信问题;基于边缘控制器模块实现了边缘网络断联时边缘节点的自治管理;基于微服务编排模块和微服务监控模块,实现了针对CB-EIP平台的监控;基于微服务流量调度模块,实现了基于用户优先级的流量调度功能。(2)将人脸识别应用拆分成前端展示、人脸检测、面部矫正、人脸表征和数据库对比等五个微服务组件,实现了该应用的微服务化部署;通过对基础设施资源、微服务组件的监控和分析,验证了 CB-EIP平台和基于微服务的人脸识别应用的可行性以及在计算性能方面的有效性。(3)针对多边缘节点场景下的微服务调度问题,提出了一种面向微服务的通信延迟优化调度算法(CDOS),仿真验证了该算法在优化通信延迟方面的有效性。
基于容器的边缘智能平台设计与实现
这是一篇关于边缘智能,Kubernetes,微服务,人脸识别,服务调度的论文, 主要内容为随着物联网和人工智能技术的不断发展,在终端设备上部署人工智能应用可以为垂直行业应用和生活提供巨大便利。然而,云计算模式无法充分利用边缘节点上的基础设施资源,同时,当业务流请求增大时,不但会对云端的计算、网络、存储等资源造成极大压力,还会导致较大的服务响应时间和用户隐私安全风险等问题。边缘计算将计算、存储等资源部署到网络边缘,虽然解决了云计算资源紧张、服务响应时间大等问题,但是,人工智能的复杂性也为人工智能应用与边缘计算的融合带来了巨大的挑战。因此,构建高效的边缘智能平台框架对在边缘计算环境中部署人工智能应用具有重要意义。论文针对基于容器化的边缘智能平台设计与实现问题,以云原生Kubernetes集群框架为基础设施,以容器技术为应用载体,以微服务架构为服务范式,以人脸识别为典型数据密集型应用,所做的主要研究工作和创新点包括:(1)采用Kubernetes作为容器编排平台,提出了一种基于容器的边缘智能平台框架(CB-EIP),设计并实现了 CB-EIP平台及其相关功能模块;基于云边通信模块和端设备管理模块,解决了云边端的通信问题;基于边缘控制器模块实现了边缘网络断联时边缘节点的自治管理;基于微服务编排模块和微服务监控模块,实现了针对CB-EIP平台的监控;基于微服务流量调度模块,实现了基于用户优先级的流量调度功能。(2)将人脸识别应用拆分成前端展示、人脸检测、面部矫正、人脸表征和数据库对比等五个微服务组件,实现了该应用的微服务化部署;通过对基础设施资源、微服务组件的监控和分析,验证了 CB-EIP平台和基于微服务的人脸识别应用的可行性以及在计算性能方面的有效性。(3)针对多边缘节点场景下的微服务调度问题,提出了一种面向微服务的通信延迟优化调度算法(CDOS),仿真验证了该算法在优化通信延迟方面的有效性。
多接入边缘计算中协同计算卸载策略研究
这是一篇关于协同计算卸载,多接入边缘计算,边缘智能,微服务架构的论文, 主要内容为物联网技术的快速发展催生了大量具备时延敏感和计算密集特征的高级应用。为了实现更低的能耗、更快的响应、更强大的安全性、更高的可靠性和更少的带宽要求,多接入边缘计算(MEC)技术应运而生。然而,在传统的边缘计算范式下,各边缘服务器间缺乏统一的调度管理,形成算力孤岛效应,分布式的计算资源不能得到充分利用。因此,如何构建统一的节点管理与能力感知体系,设计面向多样化计算业务请求的协同卸载策略,实现极致灵活的计算任务卸载与极致弹性的计算资源调配,成为了学界的研究热点。基于此,本课题从多个多接入边缘计算的典型应用场景出发,分别从集中式与分布式的角度提出多样化的协同计算卸载策略。此外,基于所提出的卸载策略,本文设计并实现了基于微服务架构的协同计算卸载系统,以验证所设计策略在真实边缘推理环境下的综合性能。具体地,本文的主要贡献包含以下三个方面:第一,本文考虑多用户设备多边缘计算服务器的场景,以计算任务处理能耗最低为优化目标,研究计算任务卸载与计算资源分配的联合优化问题。本文设计了基于优先级的资源受限时的分配策略,给出了将计算任务卸载问题转换为加权二部图匹配与最小费用最大流问题的方式,提出了使用KM(Kuhn-Munkres)算法以及改进的GS(Gale-Sherply)算法求解匹配问题。仿真结果表明,相比于传统的随机调度(RAO)策略与理论最优的KM调度策略,本文提出的MADF-GS(Maximum Alternative Differences First GS)算法性能优异,它在算法超参数变化时性能稳定,在节点密度上升时网络能耗接近最优,相比传统的RAO策略提升61.21%,而算法运行时间大幅下降,相比最优的KM策略最多节省80%。第二,本文考虑具有高度动态性的网络环境,选择车联网作为研究场景,综合衡量任务队列积压与任务卸载数据量,研究了车辆与车辆、车辆与路侧单元(RSU)之间的动态协同计算卸载问题。本文为解决车辆将计算任务卸载给非直连的路测单元的数据传输问题,设计了适合于分布式场景的快速贪心选路策略;此外,本文将车辆向车辆与路测单元卸载计算任务的问题建模为动态资源定价的博弈问题,考虑卸载数据量与动态资源定价之间的博弈,并基于缜密的数学推导求出Stackelberg均衡解。仿真结果表明,本文所提出的快速贪心选路策略与经典A*算法相比,在性能差距不超过1%的情况下大幅缩短了算法执行时间;相比于多种传统的基于优先级的贪心卸载策略,本文设计的基于Stackelberg博弈的动态协同卸载可以在保证任务队列稳定的同时均衡卸载数据量与资源定价,与性能最优异的贪心算法相比,能获得40.94%的系统效用提升。第三,本文基于微服务架构,设计并实现了完整的协同计算卸载系统。本文建模了实际网络环境的请求调度问题,并在研究点一提出的协同计算卸载策略的基础上,设计了适配于实际网络环境的调度策略;本文引入容器集群管理平台对边缘计算节点统一纳管,设计算力感知、算力通告、算力建模、请求调度等微服务实现请求的灵活动态调度。实际测试表明,所设计的计算协同卸载系统在执行多样化的边缘智能推理业务中,在保证均衡节点负载的同时,与本地处理、随机策略、贪心策略等传统边缘计算范式相比降低了 69.51%、17.91%、20.14%的响应延迟,且在动态的网络拓扑下实现快速响应,始终保持最优的吞吐量。
多接入边缘计算中协同计算卸载策略研究
这是一篇关于协同计算卸载,多接入边缘计算,边缘智能,微服务架构的论文, 主要内容为物联网技术的快速发展催生了大量具备时延敏感和计算密集特征的高级应用。为了实现更低的能耗、更快的响应、更强大的安全性、更高的可靠性和更少的带宽要求,多接入边缘计算(MEC)技术应运而生。然而,在传统的边缘计算范式下,各边缘服务器间缺乏统一的调度管理,形成算力孤岛效应,分布式的计算资源不能得到充分利用。因此,如何构建统一的节点管理与能力感知体系,设计面向多样化计算业务请求的协同卸载策略,实现极致灵活的计算任务卸载与极致弹性的计算资源调配,成为了学界的研究热点。基于此,本课题从多个多接入边缘计算的典型应用场景出发,分别从集中式与分布式的角度提出多样化的协同计算卸载策略。此外,基于所提出的卸载策略,本文设计并实现了基于微服务架构的协同计算卸载系统,以验证所设计策略在真实边缘推理环境下的综合性能。具体地,本文的主要贡献包含以下三个方面:第一,本文考虑多用户设备多边缘计算服务器的场景,以计算任务处理能耗最低为优化目标,研究计算任务卸载与计算资源分配的联合优化问题。本文设计了基于优先级的资源受限时的分配策略,给出了将计算任务卸载问题转换为加权二部图匹配与最小费用最大流问题的方式,提出了使用KM(Kuhn-Munkres)算法以及改进的GS(Gale-Sherply)算法求解匹配问题。仿真结果表明,相比于传统的随机调度(RAO)策略与理论最优的KM调度策略,本文提出的MADF-GS(Maximum Alternative Differences First GS)算法性能优异,它在算法超参数变化时性能稳定,在节点密度上升时网络能耗接近最优,相比传统的RAO策略提升61.21%,而算法运行时间大幅下降,相比最优的KM策略最多节省80%。第二,本文考虑具有高度动态性的网络环境,选择车联网作为研究场景,综合衡量任务队列积压与任务卸载数据量,研究了车辆与车辆、车辆与路侧单元(RSU)之间的动态协同计算卸载问题。本文为解决车辆将计算任务卸载给非直连的路测单元的数据传输问题,设计了适合于分布式场景的快速贪心选路策略;此外,本文将车辆向车辆与路测单元卸载计算任务的问题建模为动态资源定价的博弈问题,考虑卸载数据量与动态资源定价之间的博弈,并基于缜密的数学推导求出Stackelberg均衡解。仿真结果表明,本文所提出的快速贪心选路策略与经典A*算法相比,在性能差距不超过1%的情况下大幅缩短了算法执行时间;相比于多种传统的基于优先级的贪心卸载策略,本文设计的基于Stackelberg博弈的动态协同卸载可以在保证任务队列稳定的同时均衡卸载数据量与资源定价,与性能最优异的贪心算法相比,能获得40.94%的系统效用提升。第三,本文基于微服务架构,设计并实现了完整的协同计算卸载系统。本文建模了实际网络环境的请求调度问题,并在研究点一提出的协同计算卸载策略的基础上,设计了适配于实际网络环境的调度策略;本文引入容器集群管理平台对边缘计算节点统一纳管,设计算力感知、算力通告、算力建模、请求调度等微服务实现请求的灵活动态调度。实际测试表明,所设计的计算协同卸载系统在执行多样化的边缘智能推理业务中,在保证均衡节点负载的同时,与本地处理、随机策略、贪心策略等传统边缘计算范式相比降低了 69.51%、17.91%、20.14%的响应延迟,且在动态的网络拓扑下实现快速响应,始终保持最优的吞吐量。
面向边缘端的电子元器件表面缺陷检测算法研究
这是一篇关于边缘智能,图像处理,迁移学习,ResNet,Vision Transformer,OpenCV的论文, 主要内容为随着智能制造技术的发展,越来越多的工厂开始进行数字化智能化转型,各种AI应用也开始出现在工厂车间。但受限于工业生产环境的复杂,边缘智能相关技术在智能制造领域的应用并未大规模展开。本文针对压敏电阻表面缺陷检测过程中实现自动化、快速化、智能化的实际需求,基于深度学习和图像处理技术,训练了检测压敏电阻表面是否有缺陷的深度神经网络模型,设计了面向边缘端设备的图像处理算法,并搭建了面向边缘端的压敏电阻检测筛选实验系统。具体的实现内容如下:在压敏电阻数据预处理方面,首先对压敏电阻图像进行数据采集,其次针对采集数据中存在的图像背景有杂质、图像有噪点、图像中无用信息比例过大、图像中压敏电阻摆放角度不统一的问题设计并实现了基于Open CV的压敏电阻图像预处理算法,通过预处理算法解决了采集图像中存在的问题。此外针对性的进行了数据增强来解决数据集较少的问题。在压敏电阻检测算法方面,引入Res Net模型与Vision Transformer模型进行对比测试。采用自行训练与迁移学习两种不同的策略在云服务器中进行训练,完成训练后通过对比Loss、ACC随Epoch变化的曲线图、混淆矩阵示意图、ROC与对应AUC图,最终选择效果最好的Res Net50＿trans作为压敏电阻检测模型,其ACC达到了0.984,AUC为0.99。在面向边缘端的压敏电阻表面缺陷检测模型优化部署方面,针对边缘端设备基于Open VINO进行了模型量化与部署测试,对比了不同推理框架的推理速度与准确度。针对压敏电阻检测模型只能进行固定大小的单张图像检测且实际工厂检测环境中要求一帧图片可以进行多个压敏电阻检测的实际需求,设计并实现了基于Open CV的压敏电阻多目标提取算法。在面向边缘端的压敏电阻检测筛选实验系统设计实现方面,首先完成了相机控制系统和执行机构控制程序的开发;其次针对相机畸变问题与执行机构抓取时需要将图像像素坐标转变为执行机构世界坐标的要求,设计实现了相机标定算法与坐标转换算法;最后整合所有算法与程序,开发了压敏电阻检测筛选系统并进行验证测试,实现了对压敏电阻的自动检测筛选。
面向边缘智能的多视角深度行为识别研究
这是一篇关于边缘智能,多视角行为识别,对比学习,跨模态知识蒸馏,自监督视频学习实验平台的论文, 主要内容为人工智能和边缘计算的结合为深度行为识别提供了新的研究方向,在新型边缘智能环境中,支撑识别任务的深度模型可以直接在终端设备上部署和应用。但由于边缘环境下场景的复杂,现阶段基于单一视角的深度行为识别方法无法达到较好的识别效果。因此,可以利用场景下多个摄像设备收集的数据,通过对比学习的方式完成多视角行为识别任务用以提高识别性能。然而,深度网络模型的计算任务通常数据量较大,计算复杂度较高。在边缘设备部署深度行为识别网络模型考虑到资源受限这一问题,使用知识蒸馏可以在保证识别精度的情况下减少部署模型的复杂度。由于模型自我更新时需要大量的人工标签,真实的边缘环境中无法提供,因此,有监督的深度行为识别模型无法进一步提高识别性能。需要研究半、自监督的深度行为识别方法应用于边缘行为识别任务。针对上述问题,首先,本文提出了基于对比学习的自监督多视角人体行为表示学习方法(Multi-view Action Recognition based on Contrastive Learning,MAR-NET),以提高边缘智能环境中行为识别任务的识别性能。MAR-NET采用多视角数据输入方式,使用自监督方式训练,仅在空间流上处理视频数据提取行为特征。同时本文为MARNET设计了多视角自监督行为对比识别策略,在互信息最大化的情况下学习多个视角下的视角无关行为特征以提高识别效果。其次,本文提出了基于跨模态蒸馏的多视角人体行为识别方法(Cross-Model Distillation for Multi-View Action Recognition,CMMVL),进一步提高实际边缘场景下行为识别任务的识别精度。该方法在自监督多视角人体行为表示学习方法的基础上进行优化,使用跨模态蒸馏算法引入骨骼数据,用基于骨骼数据预训练好的复杂深度网络指导多个基于RGB的学生网络学习行为特征以提高识别精度。设计了多学生模型的跨模态蒸馏方法,可以高效学习从教师模型得到的知识且便于在边缘智能环境部署。最后,在由不同硬件配置的边缘节点所组成的真实边缘智能场景中,设计和完成了面向边缘智能的多视角深度行为识别平台(Deep Action Recognition using Cross-view Video Prediction Platform for Edge Intelligence,DARCV),可以用于支持MAR-NET和CMMVL完成行为识别任务,提高模型性能。基于DARCV平台的实验结果表明,MAR-NET能够高效学习到多视角的视角无关行为特征,同时提高自监督行为识别模型的性能。对MAR-NET的优化后,CMMVL能够显著提高模型识别精度。
本文内容包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主题。发布者：毕设项目助手 ，原文地址：https://bishedaima.com/lunwen/54433.html
