如何选择一款边缘AI设备?

Toby McClean
134 0 2021-08-20

边缘计算已成为最受关注的技术趋势之一,随着所有的讨论,您可能认为是时候为您的物联网网络投资智能边缘技术了。但是,在为新的边缘设备下单之前,让我们先讨论一下边缘计算实际上是什么以及做什么,以及您的应用程序是否会从边缘技术中受益。边缘计算可以为 IoT 网络增加极大的灵活性、速度和智能性,但重要的是要了解边缘 AI 设备并不是应对智能网络应用程序面临的所有挑战的灵丹妙药。 在本文的结尾,在确定边缘技术是否适合您的应用程序后,我们将讨论买家在评估边缘 AI 设备时应寻找的主要功能和注意事项。

什么是边缘计算?

边缘计算将物联网提升到一个更高的水平——在云的边缘,原始数据实时转化为价值。通过在整个网络中重新分配数据处理工作,它提升了连接节点、端点和其他智能设备的重要性和治理。边缘计算几乎与云计算完全相反,其中数据从分布式网络流入,在集中式数据中心进行处理,结果通常会传输回原始分布式网络以触发操作。但是,长距离传输大量数据会产生相关成本。这些成本可以从财务上衡量,但也可以通过其他关键方式来衡量,例如功率或时间。这就是边缘计算介入的地方。当功率、带宽和延迟真的很重要时,边缘计算可能是答案。与集中式云计算不同,其中数据可能会传播数百英里进行处理,边缘计算支持在感知、创建或驻留数据的同一网络边缘位置处理数据。这意味着处理延迟几乎可以忽略不计,对功率和带宽的要求通常也大大降低。

当今边缘计算的主要推动者之一是半导体制造商,是在不大幅增加功耗的情况下提高处理能力的一种解决方案。这意味着位于边缘的处理器可以在不消耗更多功率的情况下对他们获取的数据做更多的事情。这允许更多数据留在边缘,而不是传输到核心。除了降低总系统功率外,这还增加了响应时间并改善了数据隐私。受益于这一发展的一些技术包括人工智能 (AI) 和机器学习 (ML),但这些技术也依赖于降低数据获取成本,同时提高数据隐私水平。成本和隐私都可以通过边缘处理来解决。就人工智能和机器学习等新兴趋势而言,此类技术传统上需要大量资源,远远超过端点或智能设备中通常可用的资源。现在,由于硬件和软件层面的进步,还可以将这些支持技术嵌入到位于网络边缘的更小、资源更有限的设备中。

评估边缘人工智能选择能够执行边缘处理的平台(可能包括运行 AI 算法或 ML 推理引擎)需要仔细评估。简单的传感器和执行器,即使是物联网的一部分,也可以使用相对适中的集成设备来实现。增加在边缘执行的处理量将需要更强大的平台,可能使用高度并行的架构。通常,这意味着 GPU,但如果平台过于强大,它将成为网络边缘存在的有限资源的负担。同样重要的是要记住,边缘设备从根本上说是与现实世界的接口,因此它可能需要支持一些常见的接口技术,例如以太网、GPIO、CAN、串行和/或 USB。它还可能需要支持外围设备,例如相机、键盘和显示器。

边缘也可以是一个与舒适的、气温控制的数据中心截然不同的环境。边缘设备可能会暴露于极端温度、湿度、振动甚至海拔高度。这将对所选设备以及它的包装或封装方式产生影响。另一个需要考虑的重要方面是监管要求。任何使用射频 (RF) 进行通信的设备都将受到法规的约束,并且可能需要获得操作许可。一些平台将“开箱即用”,但其他平台可能需要更多努力。一旦投入使用,它们就不太可能获得硬件升级,因此在设计周期中必须仔细确定处理能力、内存和存储,以便为未来的性能提升提供空间。这包括软件升级。与硬件不同,可以在设备在现场时部署软件更新。这些无线 (OTA) 更新现在非常普遍,任何边缘设备都可能需要设计为支持 OTA 更新。选择正确的解决方案将涉及对所有这些一般要点的仔细评估,以及对应用程序的特定需求的仔细研究。设备是否需要处理视频数据或音频?它只处理温度,还是还监测其他环境方面?它需要始终在线,还是会长时间休眠?它会被外部事件触发吗?其中许多问题适用于部署在边缘的所有技术,但随着处理水平的提高和对输出的期望值的提高,有必要扩大要求清单。

边缘计算的优势

现在在技术上可以将 AI 和 ML 应用到边缘设备和智能节点中,从而带来重大机遇。这意味着不仅处理引擎更接近数据源,而且该引擎可以用它收集的数据做更多的事情。这样做确实有好处:

首先,它可以提高生产力或数据使用效率。

其次,它简化了网络架构,因为移动的数据更少。

第三,它使靠近数据中心的重要性降低。

如果数据中心位于城市中并且靠近活动场所,最后一点可能看起来不太重要,但如果网络边缘是偏远地区,例如农场或水处理厂,则情况会大不相同。不可否认,数据在互联网上移动得很快。许多人可能会惊讶地发现,在结果显示在屏幕上之前,您的搜索查询可能会在全球范围内传播两次。整个经过的时间可能只有几分之一秒,对我们来说,这几乎是瞬时的。但对于机器和其他智能设备,这些设备构成了互联、智能且通常是自主的传感器和执行器的互联网,每一秒的每一刻都像是一个小时。这种往返延迟是实时系统的制造商和开发商真正关心的问题。数据往返于数据中心所需的时间并非无关紧要,当然也不是瞬间完成的。减少这种延迟是边缘计算的一个关键目标。它与更快的网络协同工作,这正是 5G 将发挥作用的地方。但是,随着更多设备上线,更快网络的推出将无法弥补我们可以预期的累积网络延迟。

分析人士预测,到 2030 年,在线连接的设备可能多达 500 亿。如果这些设备中的每一个都需要连接数据中心的宽带宽,那么网络将永远拥塞。如果它们中的许多在一个管道中运行,等待数据从前一阶段到达,那么总延迟将很快变得非常明显。边缘计算确实是缓解拥塞网络的唯一实用解决方案。然而,虽然总体上确实需要边缘计算,但边缘计算的具体优势仍将在很大程度上取决于应用程序。这就是边缘计算法则适用的地方。这些法律将帮助工程团队确定边缘计算是否适合您的特定应用程序。

边缘计算的4条法则

第一定律是物理定律。这是一成不变的。射频能量以光速传播,光纤网络中的光子也是如此。这是个好消息。坏消息是他们不能走得更快了。因此,如果往返时间仍然不够快,那么边缘计算可能是正确的选择。Ping 测试提供了一种测量数据包在网络连接上的两个端点之间传输所需时间的简单方法。在线游戏通常托管在不止一台服务器上,游戏玩家将 ping 服务器,直到找到延迟最低的服务器,这意味着数据可以以最快的速度传输。这就是即使是几分之一秒对于时间敏感数据的重要性。延迟也不完全取决于传输机制。每一端都有编码器和解码器,物理层需要将电子转换成任何正在使用的能量形式,然后再将它们转换回来。所有这些都需要时间,即使处理器以 GHz 的速度运行,时间也是有限的,并且取决于移动的数据量。 

第二定律是经济规律。这个可能更灵活一些,但随着对处理和存储资源的需求飙升,它也不太可预测。利润总是微乎其微,但如果在云中处理数据的成本突然上升,则可能证明盈利或亏损之间存在差异。云服务的成本始于购买或租用服务器、机架或刀片的成本。这可能会因 CPU 内核数量、所需的 RAM 或永久存储量以及服务级别而异。保证正常运行时间的成本高于没有保证的服务水平。网络带宽本质上是免费的,但如果您需要最低级别的带宽,您应该期望为此付费,在评估成本时需要考虑到这一点。也就是说,在边缘处理数据不受这种可变成本的影响。一旦产生了设备的初始成本,在边缘处理任何数量的数据的额外成本几乎为零。数据具有价值,因为它意味着或代表某物。

这突出了第三条法则,也就是土地法则。任何捕获信息的人现在都可能受捕获该数据所在地区的数据隐私法的约束。这意味着即使您是捕获数据的设备的合法所有者,也可能不允许您跨越地理边界移动该数据。例如,这将包括欧盟数据保护指令、通用数据保护条例 (GDPR) 和亚太经济合作组织隐私框架。加拿大的《个人信息保护和电子文件法》符合欧盟数据保护法,而美国的《安全港安排》也表现出类似的合规性。边缘处理可以克服这一点。通过在边缘处理数据,不需要离开设备。数据隐私在便携式消费设备中越来越重要;手机上的面部识别使用本地 AI 处理相机图像,因此数据永远不会离开设备。闭路电视和其他安全监控系统也是如此。使用摄像头监控公共空间通常意味着图像由基于云的数据服务器传输和处理,这会带来数据隐私问题。在相机中处理数据既更快又更安全,可能会消除或简化对数据隐私措施的需求。

最后,我们需要考虑墨菲定律。该定律规定如果某事可能出错,它就会出错。当然,即使在世界上最精心设计的系统中,也总会出现一些问题。边缘处理可以消除与通过网络移动数据、将其存储在云中并依赖数据中心的处理能力相关的许多可能的故障点。

提出有关边缘计算的正确问题

如果应用程序可以从技术上受益于边缘处理,那么仍有问题需要提出。以下是最相关的简短列表:

的应用程序在什么处理器架构上运行?将软件移植到不同的指令集可能成本高昂并引入延迟,因此升级并不意味着退出。   

您需要什么样的 I/O?这可以是任意数量的有线和/或无线接口。稍后添加它们会效率低下,因此需要尽早解决这个问题。  

-运行环境如何?是极热、极冷还是两者兼而有之?火星任务是“边缘处理”的一个很好的例子,如果极端的话,操作环境变化很大!   

-您的硬件是否需要遵守法规或获得认证?答案几乎肯定是“是”,因此选择预先认证的平台可以节省时间和金钱。  

-它需要多少功率?就单位成本和安装而言,系统电源很昂贵,因此了解多少“足够”可能非常有益。 

-边缘设备是否受限于外形尺寸?这在边缘处理中比许多其他部署更重要,因此需要在设计周期的早期考虑。

-什么是服务时间?这是进入可能需要运行多年的工业应用,还是以月为单位衡量生命周期?

-系统性能要求是什么,就处理能力而言,也许是每秒帧数?对内存有什么要求?应用程序的语言是什么?

-有没有成本考虑?这是一个棘手的问题,因为答案总是“是”,但了解成本限制将有助于选择过程。

结论

边缘处理是由物联网启用的,但它不止于此。它是由比早期的连接设备示例更高的期望驱动的。在低层次上,有共性;设备可能需要低功耗,可能需要低成本,但现在可能还需要提供更高水平的智能操作,而不与功耗和成本发生冲突。通过选择合适的技术合作伙伴,可以更轻松地选择合适的平台。