边缘智能释放人工智能潜力 处理大量数据的能力变得越来越重要
扫描二维码
随时随地手机看文章
随着人工智能(AI)和机器学习(ML)的发展,以算法形式处理大量数据的能力变得越来越重要。
为了使数十亿连接设备上的数据应用程序能够更高效、更有价值德尔使用,处理从集中式第三方云服务器迁移到分散的、本地化的设备上(通常称为边缘计算)的势头越来越大。根据SAR Insight & Consulting最新的人工智能/机器学习嵌入式芯片数据库显示,在2019-2024年,全球支持人工智能的设备和边缘计算的CAGR将以64.2%的速度增长。
在边缘进行数据计算,不需要网络
Edge AI将算法和处理数据尽可能地接近物理系统,在这种情况下,本地需在硬件设备上进行处理。其优点是数据处理不需要连接。数据的计算发生在网络的“边缘”,也就是数据被开发的地方,而不是集中数据处理中心。对于设备、技术和组件提供商来说,在边缘处理的能力和应该能力之间取得适当的平衡将成为最重要的决策之一。
在生产深度学习预测模型的训练和推理引擎中,边缘处理通常需要来自Intel、Qualcomm、Nvidia和谷歌等供应商的x86或Arm处理器,以及一个AI加速器,并且能够处理10-14个核心高达2.5 GHz的速度。
为时间敏感的应用程序提供实时结果
随着市场的扩大,计算数据和计算能力的服务和应用需求也在不断扩大,这会对推动边缘计算发展起到积极作用。由于可靠、可适应性强的情境资讯的需求不断变化, 大多数数据都迁移到本地的设备上处理,从而获得更快的性能和响应时间(少于几毫秒)、更低的延迟、更低的电源效率。此外,通过在设备上保留数据提高了安全性,以及通过最小化数据中心传输而节省了成本。
边缘计算的最大好处之一是能够为时间敏感的需求确保实时结果。在许多情况下,传感器数据可以直接收集、分析和交流,而无需将数据发送到时间敏感的云中心。
关键是,跨各种边缘设备的可伸缩性能够帮助加速本地决策。为提供即时和可靠数据的能力建立了基础,也提高了客户参与度,在许多情况下,还挽救了生命。想想家庭安全、航空航天、汽车、智能城市、医疗保健等这些行业——这对诊断和设备性能的即时解释至关重要。
人工智能优势的发展
亚马逊、谷歌、苹果、宝马、大众、特斯拉、Airbus, Fraunhofer, Vodafone, Deutch Telekom, Ericsson, 和HarTIng等创新机构,现在都在为AI下着巨大的砝码。此外,许多这样的公司正在建立行业协会,如欧洲边缘计算联盟(EECC),它可帮助教育和激励中小型和大型企业,以推动制造业和其他工业市场采用边缘计算。
欧洲边缘计算产业联盟旨在支持欧洲和世界各地的大中小型企业采用相关技术,尤其侧重于 OT 技术与 ICT 技术的融合。ECCE将推动在制造业,运营商以及企业与 IoT 等相关领域解决方案中采用边缘计算技术,注重发现和推动现有的技术,标准的应用并持续贡献,使得联盟成员的产品更加符合用户对边缘计算解决方案的需求。联盟成立的目标包括:边缘计算参考架构模型(ECCE RAMEC)、边缘计算全栈技术实现(边缘计算节点)、识别产业发展的短板并通过对不同路径的评估比较找到最佳实践(ECCE Pathfinders),与相关产业/标准化组织积极互动,对联盟的成果进行推广。
边缘计算的参考体系结构模型
从边缘往下看
人工智能和机器学习的发展为创造智能设备提供了大量的机会,这些设备能够感知周围的环境。对智能机器的需求将受益于多感官数据的增长,这些数据能够以更高的精度和性能进行计算。边缘计算可以将人工智能数据转化为几乎所有行业的“实时”价值。智能边缘是人工智能技术发展和成功的下一个阶段。
延伸阅读
华为携手多家合作伙伴,成立欧洲边缘计算产业联盟
在第二届欧洲边缘计算论坛(ECF)上,华为与多家合作伙伴达成意向,将共同努力,联合建立欧洲边缘计算产业联盟(ECCE)。ECCE旨在为智能制造、运营商、企业与IoT等领域的厂商与组织提供全方位的边缘计算产业合作平台,通过产业协同,开放创新和示范推广,深化行业数字化转型,共同推进边缘计算产业的蓬勃发展。
边缘计算横跨多个领域,涉及网络联接、数据聚合、芯片、传感、行业应用多个产业链角色。根据IDC统计数据显示,到2020年将有超过500亿的终端和设备联网,其中超过50%的数据需要在网络边缘侧分析、处理与存储,边缘计算市场之大显而易见。另外,边缘计算和5G相辅相成,5G 的加速推进也会促进边缘计算的大规模部署。边缘计算产业发展已进入重要机遇期。
除了华为以外,此次参与合作的还有ADI、ARM、庞巴迪、贝加莱自动化、德国人工智能研究中心(DFK)、IBM、英特尔、库卡等来自世界各地不同行业的公司。
边缘智能:现状和展望
(摘自:湖南大学信息科学与工程学院,国家超级计算长沙中心)
以云计算为代表的集中式处理模式将无法高效地处理边缘设备产生的数据,无法满足人们对服务质量的需求。其劣势主要体现在以下两个方面。
● 实时性不够。在云计算服务模式下,应用需要将数据传送到云计算中心进行处理,这增大了系统的时延。以无人驾驶汽车为例,高速行驶的汽车需要在毫秒级的时间内响应,一旦由于数据传输、网络等问题导致系统响应时间增加,将会造成严重的后果。
● 带宽不足。边缘设备产生的大量数据全部传输至云计算中心,给网络带宽造成了极大的压力。例如,飞机波音787每秒产生的数据超过5 GB,但飞机与卫星之间的带宽不足以支持数据的实时传输。
边缘计算模型应运而生。边缘计算是部署在边缘终端设备和云计算中心之间的一种新型计算模型。边缘计算的资源是指从数据源到云计算中心路径上的任意计算和网络资源,是一个连续系统。在该模式下,边缘设备上亦有计算。边缘计算具有几个明显的优点:首先,边缘设备处理了部分产生的临时数据,不再需要将全部数据上传至云端,只需要传输有价值的数据,这极大地减轻了网络带宽的压力,且减少了对计算存储资源的需求。其次,在靠近数据源端进行数据处理,能够大大地减少系统时延,提高服务的响应时间。
而人工智能技术已成功应用于目标识别、智能搜索、语言处理、智能交通等领域。然而,由于人工智能方法包含大量的计算,当前人工智能大部分计算任务部署在云计算中心等大规模计算资源集中的平台上,这极大地限制了人工智能带给人们的便利。
为此,边缘智能应声而出。边缘智能是指终端智能,它是融合网络、计算、存储、应用核心能力的开放平台,并提供边缘智能服务,满足行业数字化在敏捷连接、实时业务、数据优化、应用智能、安全与隐私保护等方面的关键需求。将智能部署在边缘设备上,可以使智能更贴近用户,更快、更好为用户地提供智能服务。
边缘智能面临的挑战
人工智能方法主要包括训练和推断两部分。训练主要是利用已知结果的大量数据来训练模型,即根据已有的大量数据来拟合模型及参数。推断主要是用拟合好的模型对未知结果的数据结果进行预测。训练过程需要大量的计算资源和存储资源。将人工智能部署在边缘设备上,主要面临以下几个挑战。
● 计算、存储、能耗等资源受限。相比于云计算中心等大规模服务器集群,边缘计算的资源是指从数据源到云计算中心路径上的任意计算和网络资源(如摄像头、网关等)。因而,边缘设备的计算、存储能力往往远远小于专用服务器的计算、存储能力,无法满足人工智能训练所需的大量计算和存储资源。除此之外,部分边缘设备采用蓄电池等小型供电设备,无法满足计算所需的能耗。
● 边缘网络资源不足。根据Cisco云指数的预测,到2021年,全球范围将有超过500亿的终端设备,每年产生的数据总量将达到847 ZB。相比而言,全球数据中心的存储能力预计仅能达到2.6 ZB,而网络流量为19.5 ZB。
● 人工智能在“边缘”并行困难。人工智能是研究使计算机模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科。人工智能模型模拟人脑神经元的互联关系,模型复杂,各组成部分之间依赖性强,在分布式环境下并行困难。