一文读懂什么是边缘计算

一文读懂什么是边缘计算

边缘计算就像手边的甜甜圈一样，能够让香甜的滋味唾手可得。

当你想要吃甜点的时候，走路去路旁的甜品店买甜甜圈，需要走上好一段

路。但是，此时如果恰好有一盒甜甜圈就摆在你的办公桌上，你对甜食的渴望

就能即刻得到满足。

边缘计算也是如此。在数据处理的过程中，如果将数据发送到运行在云端

的AI程序进行处理，势必会导致延迟答复。但是，如果把就近它发送到临近的

边缘服务器，这就将变得像是从手边的盒子里拿出一个甜甜圈一样简单快捷。

很有可能你现在正在感受边缘计算带来的便捷，这种边缘计算体验就来自

于你口袋里的智能手机。最新的智能手机就处于电信网络的"边缘'；其能够以更

加智能的方式处理语音任务和编辑出更加时尚照片。

边缘计算，这一概念已经存在了几十年，其意指为在尽可能临近于源代码

的地方捕获和处理数据。

所谓边缘计算，是把处理器直接安装应用在那些会收集到儿GB甚至儿TB

字节流数据的位置，诸如：自动驾驶汽车、智能工厂机器人、医院医疗成像

机、零售店收银台摄像头等。

到2025年，预计将有1500亿台机器传感器和物联网设备将源源不断的势

头，传输需要处理的数据。

随着5G网络的推出，其速度比4G网络快10倍，更多的AI服务将成为可

能，这也进一步加速了对于边缘计算的需求。

从智能手机到“万物智能”

如今，谷歌、苹果和三星等公司推出的智能手机搭载了更多的AI处理功

能，可以更好地为用户提供服务，比如：使用计算摄影技术在几毫秒内完成照

片美化。

然而，在物联网领域，来自于物联网设备的数据流，要远比智能手机所产

生的数据量要多得多。

大量应用于汽车、机器人、无人机、移动设备、摄像头和传感器，以及医

疗成像机的物联网设备，对边缘计算提出了更高的需求。这些计算密集型工作

负载会产生大量的数据，需要预考边缘计算来部署AT。

如今，那些需要在分秒内完成的AI计算需要边缘计算，如此以来，可以减

少由于远程往返传输数据而导致的延迟和带宽问题。

边缘计算如何工作

数据中心是集中化服务器，其通常位于空间成本和电力成本较低的地方。

即使在最快速的光纤网络上，数据传输速度也不能超过光速。因此，在远程传

输数据的时候，物理上的距离，无论如何都无法诋消，进而造成延迟。

而边缘计算则可以缩短这一距离。

边缘计算可以在多个网络节点上运行，以缩短数据和处理器之间的物理距

离，从而减少瓶颈并加快应用程序的速度。

在网络的外围，有着数以十亿计的物联网和移动设备运行在小型嵌入式处

理器上，这正是诸如视频处理等基本应用的理想处理模式。

如今，工厂和市政部门都在紧锣密鼓地开发和运行计算密集型模型，这种

情况下，它们就需要传统边缘计算的新方法。

什么是用于城市的边缘计算？

众多《财富》500强企业、初创企业以及城方都在边缘领域采用人工智

能。例如，城市正在开发AI应用程序，以缓解交通堵塞和提高安全性。

Verizon使用NVIDIAMetropolis物联网应用框架，结合Jetson的深度学习

能力，可以分析多个视频数据流，进而寻找改善交通流、增强行人安全、优化

城市停车等方法。

总部位于加拿大安大略省的初创公司MiovisionTechnologies使用深度神经

网络分析来自于摄像头和城市基础设施的数据，以优化红绿灯变换，从而确保

车辆顺畅行驶。

凭借NVIDIAJetson紧凑超级计算模块的边缘计算和来自NVIDIAMetropolis

的洞察，Miovision和其他企业可以加速其在边缘领域的工作。节能型的Jetson

可以同时处理多个AI进程的视频。这种结合为解决网络瓶颈和交通堵塞提供了

替代方法。

边缘计算也在不断扩展。NVIDIAMetropolis和来自于其它第三方的行业Al

应用程序框架都运行在NVIDIAEGX平台之上，以获得最佳性能。

边缘计算为AI带来的益处

面向AI的边缘计算有诸多益处。它将AI计算引入数据生成领域，包括智

能零售、医疗健康、制造业、交通等。

这种计算环境的转变为企业提供了新的服务机会，可以提高企业效率并节

约成本。

与运行CPU机架的传统边缘服务器不同，NVIDIAEGX平台占地面积更

小，而且提供了跨NVIDIAAl的兼容性，能够从超级计算模块的Jetson系列扩

展至NVIDIAT4服务器的完整机架。

为AI运行边缘计算的企业在微型的NVIDIAJetsonNano上部署延迟低、灵

活性高的AI应用。这台小型超级计算机只需儿瓦特就可以完成每秒5万亿次的

图像识别任务等。

NVIDIAT4服务器机架每秒可提供超过10000万亿次的操作，能够应用于

对算力要求最苛刻的实时语音识别和其他计算繁重的AI任务当中。

此外，在AI驱动的边缘网络外围进行更新也很快捷。EGX软件栈运行于Li

nux和Kubernetes之上，允许从云服务器或边缘服务器进行远程更新，从而不

断地改进应用程序。

而且NVIDIAEGX服务器是为CUDA加速容器而调整的。

企业边缘计算和人工智能服务

作为全球最大的专售商，沃尔玛正在引入边缘AI,打造智能冬售商店。结

合智能视频分析•、AI库存管理以及客户和商店分析，为其提供更高的利润率，

同时也为顾客提供更好的客户体验。

借助于NVIDIAEGX平台，沃尔玛能够实时处理每秒生成的超过1.6TB字节

的数据。它可以使用AI完成各种各样的任务，例如：自动提醒售货员补货、回

收购物车或开放新的结帐通道。

数百个乃至更多的互连的摄像头可以为AI图像识别模型提供数据，并由N

VIDIAEGX当场完成数据处理。同时，JetsonNano可以在远程处理较小的视频

源网络，并在云中与EGX和NVIDIAAl连接。

商店的过道可以由完全自主的、会话式AI机器人监控，机器人由JetsonA

GXXavier驱动，运行Isaac进行SLAM导航。所有这些都与云中的EGX或NVID

IAAl兼容。

无论是什么样子的应用程序，NVIDIAT4和JetsonGPU都能够在边缘为智

能视频分析和机器学习应用程序提供了强大的组合。

从智能设备到传感器融合

工厂、零售商、制造商和汽车制造商正在生成传感器数据，这些数据可以

通过交叉引用的方式帮助用户改进服务。

这种传感器融合的方式将帮助零售商为顾客提供新的服务。机器人不仅可

以使用语音和自然语言处理模型进行会话交互。这些机器人还可以使用视频源

运行姿态估计模型，通过将语音和手势传感器信息结合起来，可以使得机器人

能够更好地了解客户所要寻找的产品或方向。

借助于传感器融合，汽车制造商能够为顾客提供新式的用户体验，从而获

得竞争优势。汽车制造商可以使用姿态估计模型来了解司机在看什么，并采用

自然语言模型来理解司机使用语言，向车载GPS地图提出的命令。

例如，当司机在GPS地图上寻找一家就近的7-Eleven便利店时，其可以滑

动手指，指向一家7-Eleven便利店，说〃靠边停车，我想吃个甜甜圈；在传感器

融合和AI的帮助下，司机所乘坐的自动驾驶汽车就能够判断出其想要前往的目

的地。

用于游戏的边缘计算

游戏玩家对高性能、低延迟的计算能力的需求之苛刻，可谓是众人皆知

的。高质量的边缘云游戏能够满足他们的胃口。全新一代虚拟现实、增强现实

和人工智能游戏应用是一项巨大的挑战。

电信运营商正在使用NVIDIARTX服务潜，它能够像全世界的玩家提供光线

追踪和AI增强型的影院级游戏画面。这些服务器为NVIDIA的云•游戏服务GeFor

ceNOW提供了强大的动力，该服务能够在边缘领域，将动力不足或兼容性差

的硬件设备转变为强大的GeForce游戏PC。

台湾移动与韩国LGU+,日本软银以及俄罗斯Rostelecom都已宣布计划

向他们的云游戏客户推出这项服务。

什么是人工智能边缘计算服务？

利用边缘AI,电信企业可以为客户提供新式的服务，创造新的收入来源。

通过采用NVIDIAEGX,电信运营商可以使用图像识别模型来分析摄像机的

信息，帮助处理交通管理，商店货架检测，和物流快递管理等各种事情。

例如，