NVIDIA Spectrum-6进入千兆级AI工厂

AI已进入千兆级时代。全球最先进的AI工厂正将数十万GPU和CPU汇聚在一起，训练前沿模型、驱动智能体AI并以空前规模生成智能。在这一量级下，网络成为驱动令牌生成的关键计算性能倍增器。NVIDIA Spectrum-6——一款带宽达102.4Tbps的以太网交换机系统，提供前代两倍的容量，并作为NVIDIA Vera Rubin平台的一部分——正在全球千兆级AI工厂中部署。Spectrum-6锚定了下一代NVIDIA Spectrum-X以太网平台，提供将AI工厂作为一个端到端计算系统运行所需的带宽、规模和智能。

全球领先的AI基础设施构建者——包括CoreWeave、Microsoft、Nebius、SpaceXAI和Tesla——将率先引入Spectrum-6以加速其AI工厂。对于云提供商而言，Spectrum-6意味着更多计算能力可以作为统一的高性能资源运行，帮助客户更快地训练模型和部署推理服务。CoreWeave产品网络总监Min Jun表示，引入Spectrum-6和液冷Spectrum-X以太网基础设施将帮助其提供客户所需的带宽、弹性和效率。Nebius全球合作伙伴副总裁Laurelle Roseman指出，在千兆级规模下，性能取决于协调，而Spectrum-6正是为此而生。

峰值GPU性能已不再是AI工厂性能的唯一预测指标。大规模训练和推理工作负载依赖数千个加速器持续交换数据。集体通信是跨GPU同步工作的基本操作，会产生密集的东西向流量。传统以太网主要为企业应用和南北向流量设计，无法满足千兆级AI的同步集体通信模式。Spectrum-X以太网改变了这一点，它专为AI打造，将以太网转变为高性能扩展结构，确保每个GPU都能持续获得数据。

Spectrum-6交换芯片与NVIDIA ConnectX-9 SuperNIC结合，构成下一代Spectrum-X以太网，并作为NVIDIA Vera Rubin的一部分进行工程化设计，集成了Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU和Spectrum-6以太网交换机。Spectrum-6支持可插拔和共封装光学外形，并支持液冷，实现AI工厂的全面端到端冷却，同时提升网络能效。与现成以太网不同，Spectrum-X平台结合了智能交换机、SuperNIC和全栈网络软件，专为AI工厂扩展而协同设计。

Spectrum-X以太网提供比现成以太网高达1.6倍的AI网络性能，在超过10万GPU的部署中维持高达95%的网络效率。硬件加速的Spectrum-X多平面拓扑将数据中心所需交换机数量减少1.7倍，进一步加速网络效率。通过Spectrum-X以太网光子技术，能效提升5倍，平均故障间隔改善10倍。NVIDIA的垂直集成、水平开放方法——跨整个计算平台协同设计芯片、系统和软件，同时支持标准以太网、开放网络操作系统和广泛生态系统——使客户无需拼凑组件，即可获得完整的AI工厂平台，实现最快的训练时间和最低的每令牌成本。

要点

• NVIDIA Spectrum-6交换机系统带宽达102.4Tbps，是前代两倍，专为千兆级AI工厂设计，作为Vera Rubin平台核心组件。
• CoreWeave、Microsoft、Nebius、SpaceXAI和Tesla等领先AI基础设施构建者将率先部署Spectrum-6。
• Spectrum-X以太网平台相比传统以太网提升1.6倍AI网络性能，在超10万GPU部署中维持95%网络效率。
• Spectrum-6支持液冷和光子技术，实现5倍能效提升和10倍故障间隔改善，减少1.7倍交换机需求。
• NVIDIA采用垂直集成、水平开放方法，提供完整AI工厂平台，实现最快训练时间和最低每令牌成本。