Nvidia的AI优势不止于GPU:数据中心系统级制胜

Nvidia的AI优势不止于GPU:数据中心系统级制胜

Nvidia的优势远不止于GPU。随着AI计算规模扩展到千兆瓦级别,数据中心系统级编排成为新的竞争焦点,Nvidia在GPU之外的配套硬件领域已建立起巨大优势。

在本周之前,关于Nvidia的主流叙事大致是这样的:在AI热潮的头几年,Nvidia是先进GPU的唯一来源,随着行业规模扩张,这一优势带来了巨额利润。而在过去几年间,亚马逊和谷歌等超大规模云计算商开始自研芯片,Nvidia不再是唯一的玩家,这让许多投资者开始质疑其优势究竟能持续多久。

这是一个引人入胜的故事,也基本属实。在2023年初至2025年中期间,Nvidia市值增长了10倍,但过去一年,受GPU竞争担忧影响,其股价走势趋于温和。

然而,自公司周三发布财报以来,一种新的叙事正在形成——投资者开始意识到,Nvidia的优势远不止于GPU。随着AI计算规模扩展到千兆瓦级别,系统编排已成为日益复杂的任务。毫不意外的是,Nvidia已经构建了大部分处理这一任务所需的先进硬件,这使得公司在GPU周围的配套系统领域拥有巨大优势——即便在GPU本身面临更激烈竞争的情况下。

尽管人们一直在谈论计算即商品,但以峰值效率运营超大规模数据中心仍然极其困难——而且随着部署规模越来越大、速度越来越快,这一挑战只会不断增长。

逐机架推进

仅从Nvidia实际销售的产品细节中就能看出端倪。该公司目前正在推展其Vera Rubin架构,该架构将Rubin GPU与一系列其他单元配对,包括Vera CPU、Groq 3 LPX推理加速器,以及用于存储和网络的类似机架系统。

过去一周,我与Nvidia的人员讨论了这些系统实际的功能,结果令人惊讶。与Rubin GPU本身一样,这些系统是极度专业化设备,但它们的任务不是处理token,而是确保GPU之外的一切尽可能高效运行。如果说GPU是引擎,那么这些就是整辆车的其他部分。

Vera CPU尤其专注于数据编排问题。「Vera之所以重要,是因为单台服务器或任何计算平台能容纳的内存是有限的,」Nvidia存储技术副总裁Jason Hardy告诉我。

随着数据中心计算能力的扩展,内存容量也在同步增长,这也是美光等公司在基础设施热潮第二波中获利丰厚的原因。但将数据在正确的时间送达GPU并非易事——随着企业力求降低每token功耗,他们正意识到这种流量调度的重要性。

「我们在这些操作中看到了高达3倍的性能提升,Vera CPU实现了加速,」Hardy表示。「现在我们能够充分利用闪存,因为可以在不产生瓶颈的情况下发挥全部性能。」

在Nvidia之外也能看到类似问题的不同解决方案。OpenAI在开发其Jalapeño芯片时,一个主要关注点就是通过最小化需要移动的数据量来完全避免这些挑战。

「我们设计Jalapeño的目的就是最小化数据移动和通信延迟,」该公司在本月初的一篇博文中表示。「其大域设计使得整个工作负载可以保持在一个互联系统内,最小化数据移动,帮助整个请求从开始到结束保持快速高效。」

这是一种不同的方法——通过在一个集成芯片内完成工作负载来完全避免数据移动。但总体逻辑是相同的:通过更智能的流量控制(而非更多处理器周期)来提高效率。这反过来又为企业竞争开辟了一个全新的基础设施层面。

这一新的数据编排焦点并非自动利好Nvidia。该公司仍需像在GPU领域一样,与竞争对手芯片制造商和超大规模云计算商展开竞争。但竞争已转移到新的层面——构建一款竞品GPU的重要性已不如让整个系统高效运转的能力。

至少在早期阶段,Nvidia看起来已占据主导地位。

来源:TechCrunch

上一篇 索尼音乐与华纳查普尔起诉Anthropic,指控其「公然盗版」训练Claude模型
下一篇 Genspark AI 免费送 25 美元试用额度,新用户注册领取 10,000 积分
目录