英伟达引领AI网络新时代：从训练到推理的全面革新

转瞬之间，网络已成为AI时代的宠儿，众多数据中心企业纷纷热议。尽管GPU热度依旧，但AI网络似乎更受瞩目，从硅谷巨头到新兴企业，无不热衷于探讨其多元应用与广阔前景。

这一热潮背后，是“AI工厂”与“AI云”的崛起。AI工厂比作数据转化为智能的超级计算机或数据中心，而AI云则提供弹性、可扩展的AI服务，强调灵活性与普适性。

这些转型而来的数据中心，不再仅处理存储数据，而是将海量数据转化为实时洞察与价值，肩负“制造智能”的重任。

显然，传统网络架构已难以满足这些需求。

因此，AI巨头英伟达的网络优势开始显现，其InfiniBand技术广为人知，而专为AI打造的以太网架构Spectrum-X也备受瞩目。

IDC报告指出，得益于Spectrum-X以太网络平台，英伟达数据中心以太网交换机收入从2024年Q4到2025年Q1实现了183.7%的惊人增长，占据12.5%的市场份额，在数据中心细分领域更是达到21.1%的市场占有率。

凭借仅发布两年多的Spectrum-X网络平台，英伟达不仅跻身全球数据中心以太网市场前三甲，更在快速崛起的AI以太网市场中抢占先机。

尽管外界仍视其为GPU巨头，但英伟达正以惊人速度重塑AI时代的数据中心网络版图。

4万亿的真正底气

英伟达在AI网络上的布局远早于其他巨头。

2020年9月30日，为庆祝以太网规范诞生40周年，英伟达创始人兼CEO黄仁勋专访了以太网的发明者鲍勃·梅特卡夫。

访谈中，两人探讨了耐人寻味的问题：是GPU本身，还是GPU间的互连技术成就了英伟达的核心竞争力？

这一问题的背景是英伟达2020年4月完成的对芯片设计公司Mellanox的69亿美元收购。Mellanox不仅开发了基于InfiniBand标准的计算网络产品，还推出了基于开放以太网标准的Spectrum交换机。

不论是InfiniBand还是Spectrum以太网，都属于服务器间互连的技术方向。Mellanox的纳入意味着英伟达拥有了GPU服务器直接互连的两张王牌，兼顾了性能、扩展性和服务性的市场迫切需求。

梅特卡夫指出，英伟达真正的底气就是GPU互连。

五年后的今天，英伟达市值飙升至4万亿美元。除了炙手可热的Blackwell芯片外，还有其早已独步天下的GPU服务器互连技术——即AI网络。

此时新的疑问浮现：为何众多巨头唯独青睐英伟达？

先从InfiniBand说起。作为一种功能强大的网络架构，InfiniBand被专门设计用于支持高性能计算和AI数据中心基础设施的I/O连接。其高带宽、低延迟、低功耗及可扩展性等特性与AI数据中心相得益彰。

例如，最新的InfiniBand XDR网络带宽可达800Gb/s，其发展速度远超PCIe。而Spectrum-X则是面向AI应用场景的优化升级，是端到端AI网络技术。

Spectrum-X通过RDMA技术实现GPU显存间的直接通信，显著降低通信延迟。同时，它加入了动态路由技术（Adaptive Routing），根据网络负载实时调整路径，提升带宽利用率。

此外，Spectrum-X还具备性能隔离技术（Performance Isolation），确保多租户环境中不同租户的应用互不干扰。

从训练迈向推理

今年3月的GTC大会上，英伟达发出重要信号：随着AI产业在训练需求增长趋缓及DeepSeek等公司在推理技术上的突破，整个行业正迎来从训练时代向推理时代的关键转折。

这一转变背后是规模远超训练市场的全新蓝海——推理市场。如果说训练是AI能力的“铸造”，那么推理则是这些能力的“实战”，其市场潜力和商业价值将呈指数级增长。

但新问题接踵而至。随着推理模型复杂度提升，原本单GPU或单节点处理的任务开始转向多GPU和多节点并行。同时，“P-D分离”趋势使得数据交换成为瓶颈。

此外，大模型推理高度依赖KVCache。针对这些挑战，英伟达提供了高效解决方案：

在分布式推理上，现有InfiniBand与Spectrum-X构建了具备RDMA、智能拥塞控制和QoS能力的网络层。

在PD分离通信瓶颈上，通过NVLink/NVSwitch构建高速互连通道，并借助Grace CPU实现CPU与GPU的深度耦合。

针对KVCache存储结构挑战，引入了BlueField SuperNIC与BlueField DPU双引擎协同架构。前者加速GPU节点间的KV共享操作；后者则在CPU与GPU间建立智能“数据高速公路”。

掌握网络，就是掌握未来

“客户不关心你采用什么技术，更关心如何解决他们的问题。”黄仁勋表示。

在他看来，英伟达的突破不仅在于GPU性能优势，更在于将GPU重新定义为一种平台级组件。这种系统思维是英伟达从图形处理走向AI数据中心供应商的核心动力。

“专注于CPU无法解决的问题？那市场要么不存在因为没有解决方案要么非常小且局限于超级计算机市场。”黄仁勋回忆当年的质疑。但英伟达的洞察更深：真正的市场往往诞生于需求尚未成型时。

今天，大型推理集群的加速部署使得AI平台的“终局战场”不再是某颗芯片的性能之争而是系统、生态、网络的协同效率之争。在这个新战场上英伟达不仅已上场——它正在引领方向。