目录:
沿澳大利亚新南威尔士州(NSW)州的海岸线盘旋着无人驾驶机队,有助于保持水域安全。 今年早些时候,这些无人机帮助该州远北海岸的救生员营救了两名在海浪中挣扎的少年。
这些无人机由人工智能(AI)和机器视觉算法提供动力,这些算法不断分析其视频供稿,并突出显示需要注意的项目:例如鲨鱼或流浪者。 这是与Google相册能够对图片进行排序,家用安全摄像头可以检测陌生人以及智能冰箱在易腐烂物品接近其有效期限时发出警告的相同技术。
但是,尽管这些服务和设备需要持续连接到云才能实现其AI功能,但由于神经计算芯片可以使NSW无人机在本地进行深度学习计算,因此无论有没有可靠的Internet连接,它们都可以执行其图像检测任务。 。
这些芯片是边缘计算创新趋势不断发展的一部分,这些创新使我们的软件驱动设备能够执行至少一些关键功能,而无需与云保持稳定的联系。 边缘计算的兴起正在帮助解决新老问题,并为下一代智能设备铺平了道路。
减轻云的负担
在过去的二十年中,云已经成为托管应用程序的事实方式,这有充分的理由。
IBM Watson的首席技术官Rob High说:“使云如此吸引人的原因在于,它倾向于减轻启动您要执行的任何活动的成本。” “云……使人们……能够解决当今的实际问题,而不必花费基础设施的创建成本。”
借助无处不在的Internet连接以及近乎无数的云应用程序,服务和开发平台,创建和部署应用程序的障碍已大大减少。 云计算提供商(如IBM,Google和Amazon)的大量资源不仅促进了琐碎的业务应用程序的开发,而且还促进了需要大量计算和存储(AI和机器学习算法以及流和AR)的复杂软件的开发(增强现实)应用程序。
但是,这些进步也带来了挑战:除非将它们连接到云,否则我们使用的大多数应用程序都无法运行。 这包括运行在计算机和电话上的大多数应用程序,以及冰箱,恒温器,门锁,监控摄像机,汽车,无人机,天气传感器等中的软件。
随着物联网(IoT)的出现,越来越多的设备正在运行软件并生成数据,其中大多数将需要链接到云来存储和处理该数据。 将数据发送到云所需的电量和带宽非常大,而存储数据所需的空间将甚至挑战最强大的云庞然大物。
“我们在这些系统中收集了很多数据,无论是在边缘,还是在IoT设备上,还是在其他任何地方,您几乎都可以决定不关心它,” High说。 但是,如果每个决定都必须在云中进行,则所有数据都必须通过网络发送到云服务器以进行清理和过滤。
例如,著名的现代飞机,其中包含数百个传感器,这些传感器监视喷气发动机并在每次飞行中收集数百GB的状态和性能数据。 “如果您想对一个汇总数据进行分析,那么这些数据到底有多重要呢?可能只是其中的一小部分,” High说。 “为什么当您不需要做其他任何事情时,为什么不从源头上消除它呢?”
进行High提出的建议,以前在云之外几乎是不可能的,但是低功耗,低成本的片上系统(SoC)处理器的进步为边缘设备提供了更多的计算能力,并使其承担了部分计算负担。生态系统,例如执行实时分析或过滤数据。
“边缘环境中的数据太多,将一些云计算功能带到边缘设备的计算能力中是有意义的,” High说。
隐私问题
边缘计算的好处不仅限于释放云资源。
Movidius(英特尔)新技术部门兼总经理Remi El-Ouazzane提到商业安全摄像机是边缘计算何时可以发挥巨大作用的另一个例子。 您可以在交通信号灯,机场和建筑物入口看到这些摄像机,全天候在网络上记录和流式传输高质量的视频。
El-Ouazzane表示:“需要回输到服务器或数据中心的数据越少,可以在本地进行的清理和处理的次数越多,则从存储和传输的角度出发,总体拥有成本就越高。”
这意味着使摄像机具有分析自己的视频馈送,确定需要注意哪些帧或视频长度以及仅将该数据发送到服务器的能力。
当这些摄像机安装在您的家中,办公室或任何私人位置时,与云的连接也将成为潜在的安全隐患。 黑客和安全研究人员已经能够破坏家用电器与其云服务器之间的连接,以拦截敏感的视频源。 在本地解析数据无需在家庭,私人生活和服务提供商之间建立视频管道。
Movidius于2016年被英特尔收购,是数家新兴公司之一,这些公司生产专门用于AI任务(例如语音识别和计算机视觉)的计算机芯片。 该公司生产视觉处理单元(VPU),这是运行神经网络的低功耗处理器,可以分析和“理解”数字图像的上下文,而无需将其发送回云。
Movidius Myriad 2是专为功耗受限的环境而设计的始终开启的视觉处理器。
El-Ouazzane说:“当摄像机理解了所看物体的语义时,就可以对摄像机可以做什么或不能做什么施加规则的能力就变得很容易了。” “您不必在接下来的12个小时内就真正占领起居室,只需知道您的狗在给定的时间越过沙发前的地毯即可。”
其他公司正在探索使用专用于AI的边缘计算来保护用户隐私。 例如,Apple iPhone X由A11仿生芯片提供支持,该芯片可以在本地运行AI任务,从而使其能够执行复杂的面部识别,而无需将用户的面部照片发送到云端。
边缘上更多的AI处理可以为去中心化的人工智能铺平道路,其中用户必须与大公司共享更少的数据才能使用AI应用程序。
减少延迟
大型云提供商的另一个问题是它们的数据中心位于大城市之外,与使用其应用程序的人员和设备相距数百英里。
在许多情况下,往返于云的数据造成的延迟可能会导致性能下降,甚至导致致命的后果。 这可以是试图避免碰撞或降落在不平坦地面上的无人驾驶飞机,也可以是试图确定是撞上障碍物还是行人的自动驾驶汽车。
Movidius对深度神经网络和计算机视觉的轻量级实现使其芯片适用于诸如无人机之类的移动边缘设备,对于此类设备而言,诸如GPU之类的耗电硬件是不可行的。 无人机是一项特别有趣的研究,因为它们需要低延迟的AI计算访问权限,并且必须在离线环境中保持运行。
手势检测是边缘计算帮助改善无人机体验的另一个领域。 El-Ouazzane说:“目标是使许多人都能使用无人机,手势似乎是人们使用无人机的一种好方法。当您手势无人机执行某些任务时,延迟很重要。”
对于像Skylift Global这样的初创公司来说,它为救援人员和急救人员提供了重量级的无人机服务,对AI和计算资源的低延迟访问可以节省金钱和生命。 Skylift首席执行官兼创始人Amir Emadi表示:“这将大大降低数据摄取成本,减少网络延迟,提高安全性,并帮助将流数据转变为实时决策。”
向急救人员交付物资需要瞬间做出决定。 “随着时间的流逝(例如,在野火扑灭中,纠正这种情况的成本变得更高)。随着我们的无人机能够在边缘做出实时决策(即使它们失去连接),我们将能够节省更多的钱。生活,金钱和时间,” Emadi说。
其他需要近实时计算的领域是增强现实和虚拟现实应用以及自动驾驶汽车。 “这些都是基于经验的计算环境。它们将在人们周围发生。” Packet首席执行官Zachary Smith说。Packet是一家位于纽约的初创公司,致力于使开发人员能够访问高度分布式的硬件。
无法跟上用户运动的AR或VR应用程序会导致头晕或阻止体验沉浸式逼真。 当高度依赖计算机视觉和机器学习算法的自动驾驶汽车成为主流时,延迟将成为更大的问题。
“ 30毫秒的延迟对于加载网页并不重要,但对于汽车以60英里/小时的速度确定是否应该向左或向右转以避免撞到小女孩真的很重要,”史密斯说。
应对边缘的挑战
Smith承认,尽管有必要使计算更接近边缘,但在每台设备中配备专用硬件可能不是最终的答案。 他说:“为什么不把所有的计算机都放到车上呢?我认为这确实与控制它的生命周期有多快发展有关。”
史密斯说:“将硬件投入世界时,通常会在其中呆5至10年,”而为这些基于经验的用例提供支持的技术每6至12个月就在发展。
即使是具有复杂供应链的大型公司,也常常在更新其硬件方面遇到困难。 2015年,菲亚特·克莱斯勒(Fiat Chrysler)必须召回140万辆汽车,以修复五年前暴露的安全漏洞。 而且,巨型芯片制造商英特尔仍在努力解决将数亿个设备暴露给黑客的设计缺陷。
Movidius的El-Ouazzane承认了这些挑战。 他说:“我们知道,每年我们都必须更换一系列产品,因为每年我们都将在边缘带来更多的智能,并且我们会要求客户进行升级。”
为了避免不断的召回和让客户长期使用其边缘硬件,Movidius为其处理器提供了额外的资源和容量。 El-Ouazzane说:“我们需要在未来几年内能够对那些产品进行升级。”
Smith的公司Packet公司使用了不同的方法:它创建了可以在城市中,更靠近用户的地方部署的微型数据中心。 然后,该公司可以为开发人员提供极低延迟的计算资源-尽可能接近用户而又无需将实际硬件置于边缘。
史密斯说:“我们相信,将需要一种基础设施交付机制,以放置可被全世界每个城市的开发人员访问的硬件。” 该公司已经在15个地点运营,并计划最终扩展到数百个城市。
但是,Packet的野心远不止是创建由Google和Amazon之类的庞大机构的微型版本。 正如Smith解释的那样,使用公共云部署和更新专用硬件是不可行的。 在Packet的业务模型中,制造商和开发人员在公司的边缘数据中心部署专用硬件,他们可以在需要时快速更新和刷新硬件,同时还可以确保其用户能够快速访问计算资源。
Hatch是Packet的客户之一,是Rovio的衍生产品,Rovio是一家创建了《愤怒的小鸟》的移动游戏公司。 该公司在边缘计算服务器上运行Android,以为使用低端Android设备的用户提供低延迟的多人游戏流服务。
Smith说:“全球所有这些市场都需要相当专业的ARM服务器。” “他们已经定制了我们服务器产品的配置,我们将其投放到了欧洲的八个全球市场中,很快它将是20或25个市场。他们觉得像亚马逊,但是他们可以在欧洲的每个市场上运行定制的硬件。 ”。
从理论上讲,Hatch可以在公共云中做同样的事情,但是成本会使它效率低下。 Smith说:“每个CPU放置100个用户与每个CPU放置10, 000个用户之间是有区别的。”
Smith认为,这种模型将吸引开发人员,从而推动下一代软件创新。 史密斯说:“我们专注于如何将在云中成长的人们与专门的硬件原语联系起来。” “我们正在谈论的用户甚至无法打开MacBook来查看内部信息,这就是要在硬件/软件堆栈上进行创新的人。”
云会消散吗?
随着边缘设备能够执行复杂的计算任务,云的未来是否处于危险之中?
“对我而言,边缘计算是云计算的自然而又合乎逻辑的下一步发展,” IBM Watson的High说。
实际上,在2016年,IBM推出了一套工具,使开发人员可以在边缘和云之间无缝分配任务,尤其是在物联网生态系统中,在这些生态系统中,边缘设备已经收集了有关其直接环境的大量数据。 在2016年末,另一个主要的云开发平台Amazon Web Services宣布了Greengrass,该服务使IoT开发人员能够在其边缘设备上运行其部分云应用程序。
这些都不意味着云将消失。 “即使在边缘上仍有大量工作要做,也有很多事情可以在云中完成,” High说。 这包括诸如汇总来自许多不同来源的数据以及使用庞大的数据集进行大规模分析之类的任务。
“如果我们需要在这些边缘设备中使用的AI算法中创建模型,则创建和训练这些模型仍然是一个非常庞大的计算密集型问题,并且常常需要远远超出这些边缘设备上可用能力的计算能力。”说。
El-Ouzzane同意。 他说:“在本地训练AI模型的能力非常有限。” “从深度学习的角度来看,该培训只有一个地方可坐,而且它在云中,在那里您可以获得足够的计算资源和足够的存储空间来处理大型数据集。”
El-Ouazzane还规定了用例,其中为边缘设备分配了任务和时间紧迫的任务,而云则负责与延迟无关的更高级的推理。 “我们生活在云与边缘之间的连续性世界中。”
高说:“边缘计算和云计算之间有着非常共生和协同的关系。”