关于Jetson AGX Orin产品你不知道的关键点都在这里

本文节选自NVIDIA GTC讲座[S41957]（我们就只整理重点部分）：

让我们开始吧，我们开发jetson 和edge AI 产品已经有一段时间了，我们从2014年3 月开始了这段旅程，我们已经在我们的产品组合中添加了越来越多的产品，jetson 的增长真的很棒成为物联网和边缘应用最成功的平台之一。我们很高兴地说，我们有 100 万开发人员对 jetson 边缘嵌入式系统进行了开发。

在这里，我们展示了jetson模组（也成为核心板）组合，我们将jetson系列分为入门级主流和高端自主机器三类。我将从这张幻灯片的底部开始，从左到右列出我们现有的产品，这些产品具有越来越多的性能特性和功能，每个模块都带有内存、电源和I/O接口，每个 SOC 都有一个基于各种 gpu 代的特定功能集。

（具体的每个模组规格就不一一介绍了，大家自己看）

我们看到机器人技术的新时代正在出现，需要数量级的更高计算机器人现在正在进入人类世界，而不是孤立地工作，这需要多传感器感知、映射和定位、路径规划和控制、态势感知和安全，这些不断增加的任务正在推动对更多计算的需求

我们很高兴地宣布，我们将推出在边缘具有服务器级 AI 性能的 jetson AGX Orin 系列，该系列具有高达 258 INT8 TOPS 的性能，由 Ampere gpu 和深度学习加速器 (DLA) 提供支持。它配备多达 12 个 A78 ARM cpu 内核和高达 64 GB 的内存，每秒 204 GB，您可以使用 AGX Orin 开发套件开始开发 AGX Orin 系列。

Jetson AGX Orin 系列将有两个模块，一个 Jetson AGX Orin 64 GB 和一个 Jetson AGX Orin 32 GB。规格和价格分别如下：

深入了解 Orin 架构图，这里重点介绍 Jetson AGX Orin 64 GB 架构。十二个 cpu 核心分为3个4组，对于 32 GB 的 Jetson AGX Orin，它分为2个4组。 GPU 分为 AGX Orin 64G 的 8TPC 和 16个SM 以及 AGX Orin 32G 的 7 TPC 和 14个SM。

Orin 配备了我们的第三代Tensor Cores，可提高性能并支持稀疏矩阵。 Orin 基于我们为 Xavier 所做的多处理器构建，它不仅具有 GPU 和CPU，还具有其他处理器，可以帮助从 gpu 和 cpu 卸载应用程序的某些部分。它包括一个专用于 AI 应用的深度学习加速器、一个用于计算机视觉应用和 isp 的视觉加速器，以及一个视频解码和视频编码引擎。与 Xavier 相比，我们还为 Orin 带来了 LPDDR5 以提高带宽。 Orin 还具备丰富的 io 连接，从多达 22 个 pcie 通道到 10 个千兆以太网和 16 个 csi 通道以及各种其他传感器接口，

Jetson AGX Orin提供了8倍于Jetson AGX Xavier的性能：

它测量了 Jetson AGX Orin 上的一些真实性能数据，它为您的下一代应用程序提供了巨大的飞跃。在这里，我们重点介绍了我们的 9 个视觉 AI 对话式 AI 预训练密集模型，其中包括用于人员检测的 PeopleNet、2D 和 3D 动作识别、车牌识别 (LPR)、Dashcam Net、bodypost Net、语音识别模型、自然语言处理模型，最后是文本到语音模型，通过这些密集模型，我们看到了3.3倍的性能提升。

另外，在AGX Xavier上，我们运行 JetPack 4.1 跟JetPack 5.0 相比，有1.5倍的性能提升，我们相信在AGX Orin上做同样的氧化，也可以导致客户最终能够获得接近五倍的性能提升。

在这里宣布我们的 jetson Orin NX 系列，在这里我们做了一些非常类似于我们对 Xavier 所做的事情，我们有一个简化版的 Orin，IM 外形，它将配备高达100 Int8 TOPs 性能，同样由 Ampere gpu 和深度学习加速器提供支持。它将具有 8 个 A78 ARM cpu 内核和高达 16 GB 的内存。该系列将配备两个模块：8 GB 和16 GB 版本。Orin NX 的量产模块将于 2022 年第 4 季度上市，好消息是您今天就可以开始开发，我们将在 Jetson AGX Orin 开发套件上提供刷机配置，供您接下来模拟 Orin NX。

今天有很多令人兴奋的消息，我们将有四个新的生产用的Jetson 模组。您可以用近似相同的价格，将Jetson Xavier系列升级到下一代Orin系列产品，但性能极大提高。

立即开始您的开发，使用 Jetson AGX Orin 开发套件可以让您开始使用所有四个模块。它将提供一种模拟模式来模拟 AGX Orin 系列和 Orin NX 系列的性能。开发套件将配备一个特殊的 Jetson AGX Orin 模块和散热器，，在 50 到 60 瓦的功率预算和 32 GB 的内存下提供高达 275 TOPS 的性能，

最后，我想谈谈我们的模块路线图。从我们的商业路线图开始，量产的 AGX Orin 模块和 Orin NX 模块将在 2022 年的第四季度上市。我们还将在 2023 年推出下一代 nano ： nano next

继续我们的工业路线图，我们将在 2023 年推出 AGX Orin模块的工业版本。我还想强调一下，我们创建了一个新的加固系统页面，以帮助您确定适合您的工业应用的解决方案。在此页面上，还有一份技术简介，其中包含系统级指南，客户可以使用SODIMM 模组在坚固的环境中操作它们，