从概念到现实:大V眼中的边缘计算

随着人们对具体应用的要求愈发明确,迈向边缘计算的速度开始加快……

“”

一年前,当我们提出有关边缘计算的展望时,该领域才刚刚开始萌芽。去年,我们针对开源技术的迅速发展以及在边缘部署机器学习(ML)所需的不同编程范例开展了演讲。
除了数据科学家,很少有公司在其产品中积极深入地整合机器学习技术,因此,边缘计算的优势只得到了定性认可。

我们在这里提到的边缘计算,其优势包括节能和减少延迟。因为对数据进行云处理,云存储的成本高昂,且许多情况下带宽也受限,从而限制了将数据传输到云端利用人工智能开展决策。

此外,在边缘节点利用人工智能做出快速决策,边缘计算还可以带来更好的用户体验。用户向云端发送和在云端存储的数据通常会因为对隐私和安全问题的担忧而存在限制。
如今,在看到边缘计算在实际系统上的部署并了解具体应用要求后,我们可以切身定量地感受到这些好处。

对每一单位电能“斤斤计较”

体会边缘计算的好处,能耗和性能是最常用的评估指标。与将数据传输到云端的成本相比,更多工作能够使用既有的能量在本地的边缘节点完成。

我们以MobileNet为例(有关MobileNet的更多内容在稍后做详细介绍),这是一种用于对象分类的热门神经网络(为了避免长达数页的分析,这里进行了高度简化)。

拿MobileNet的一个版本举例,譬如MobileNet_v1_1.0_224,需要大约5.59亿次乘积累加(MAC)计算和50,176像素(224x224)的输入图像尺寸。保守一点,假设GPU上的10次MAC要耗费100皮焦耳,则559次MMAC将耗费大约0.001焦耳。与之对比的是,通过LPTE将图像上传到云端需要花费约0.02焦耳(假设每个像素8位且图像未压缩)。换句话说,与处理图像相比,传输所需的能量增加了一个能量级;而在云端,神经网络模型上的推理仍必须执行(在更加昂贵的设备上执行)。

如何从边缘计算中获益

对于许多客户而言,机器学习是新领域。经常有人问我们“机器学习适用于我的应用吗”?当然,我们的回答是“看情况而定”。

有一些基本的前提条件,如物理接口(例如,摄像头、麦克风、传感器)、收集数据和为数据加标签的能力(用于模型训练),以及确定机器学习是否真的能为该应用带来价值(即刺激产品销量,带来金钱价值)。在这些前提条件均满足的情况下,我们认为或多或少的机器学习能够被应用于非常广泛且多样的领域中,其中最有趣的是有益于社会或能够提升用户体验的应用。

特别是随着人们对气候的关注加深,机器学习有价值的应用领域之一,是在农业中使用机器学习来监控和节约用水量、开展农药的针对性喷洒、将无人机应用于作物分析中,这些应用都是为了提高生产力,最大限度减少全球食品生产带来的影响。机器学习还可用于提高应用的工业生产力,如通过目视检查对食品质量进行分类、预测性维护与异常检查以及加强设备操作员的安全。

另一个非常热门的应用领域是使用机器学习来确保安全访问,这对于家用门禁系统、商用安全系统,如对安全区域的访问以及拦截或允许用户接触重型机械操作这一系列应用,都具有非常重要的意义。在这些情况下为了加强安全访问,门锁或用户识别型的产品会同时验证两个参数来判断是否允许访问,即同时应用人脸和语音识别或其他生物识别方法。通过使用活体检测,可进一步增强人脸识别,以防止欺骗攻击。

公共安全已成为当代备受关注的一个问题,而机器学习将成为其很好的解决方案。例如,基于机器学习可以开发这样的应用程序——让机场、地铁站台或其他公共场所的安保摄像头来确定古怪的行为模式或检测是否有人遗落包裹或行李。如果出现以上情况,则系统可以做出恰当的响应,例如将这一情况甚至具体发生的地点通知有关部门。另外,基于摄像头利用机器学习,还可以计算城市交通系统中十字路口的车辆数、监控车流和调整红绿灯时间——这不仅为驾驶员提供了便利,还能够帮助提高驾驶效率。

在边缘设备中实施机器学习是算法和处理解决方案领域巨大进步的结果。然而,直到ImageNet大规模视觉识别挑战赛在2010年拉开帷幕,机器学习的时代才真正开始发展。这一挑战赛一直以来的目标是预测包含1000个可能的对象类别之一的照片的内容。之后,AlexNet诞生,现在看来AlexNet有点过时了,但仍用于评测(由于其准确度较低,现在已通常不用于实际应用)。AlexNet的发展带来了新型的分类模型拓扑,如VGG、ResNet和Inception。

正如我在前面提到的,MobileNet是最近出现的新技术之一,由于其较小的尺寸与合理的准确度而倍受青睐。此外,通过使用迁移学习来针对特定对象类进行微调,可提高这些模型的准确度。

随着算法发展以及支持它们的训练框架和推理引擎的巨大进步,处理能力得到提升。虽然机器学习加速器正逐渐成为常态,嵌入式系统开发人员仍努力在传统设备中部署机器学习,从低成本MCU到包含多个CPU内核、GPU与DSP的高度集成应用处理器,覆盖范围十分广泛。

现如今我们可以基于一个2美元的MCU实现一套人脸识别解决方案,该解决方案可在略大于200毫秒的时间内执行推理,且准确度高达95%,这是多么令人惊讶!

如果进一步提高处理器性能以及内存容量,就能够增强边缘设备处理更复杂应用(如上所述)的能力,想象一下,如果边缘设备的机器学习性能增加几个数量级,您可以做些什么?

持续推动边缘计算发展

我们相信,我们的行业距离实现机器学习的所有潜力还有很长的路要走。就此而言,工业、消费电子、物联网和汽车应用的大多数系统开发人员仍不理解机器学习目前能够如何增强其产品。但是,机器学习不只是一时的潮流,我们已经证明了其对社会和工业大有裨益。

展望未来,我们将看到越来越多的处理器集成机器学习加速。我们还将看到开源工具和库的大幅增加,以支持机器学习发展。通过机器学习技术在边缘设备的积极部署,将会给数据分析和集体知识分配带来巨大的改革,而我们正是这一改革的见证者。

本文转载自:NXP客栈
作者:恩智浦资深副总裁兼微控制器事业部总经理Geoff Lees和恩智浦人工智能与机器学习技术总监Markus Levy
免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。

点击这里,获取更多关于应用和技术的有关信息
点击这里,获取更多工程师博客的有关信息

推荐阅读