Vera Rubin NVL72:67倍性价比的智能推理革命

Vera Rubin NVL72:67倍性价比的智能推理革命

极致协同:智能体时代的革命性平台

Rubin是首个专为智能体时代打造的跨六大产品协同设计平台,包括Rubin GPU、Vera CPU、NVLink 6交换机、ConnectX-9、BlueField-4和Spectrum-6。今日,我们发布了首个经过验证的Rubin智能体推理测试结果,基于我们的智能体推理基准测试AgentX。即使在早期的预发布软件版本中,结果已经证明了为何这种极致协同设计是必要的。

性能突破:超越预期的表现

在2026年的GTC大会上,Jensen展示了一个图表,显示VR NVL72在处理约(1-3万亿)参数的模型时,每兆瓦性能达到Blackwell的3倍,约200 TPS。然而,与Rubin在实际预发布软件上的真实性能相比,我们每兆瓦的令牌吞吐量已经看到高达7倍的提升。Jensen应该在GTC上停止在性能声明上保守行事。他上次这样做是在2024年的GTC上,当时他声称GB200 NVL72将比Hopper提升30倍性能,但当我们进行测试时,实际性能比Hopper高出98倍。

经济效益:显著提升的投资回报

我们对性能结果的评估显示,即使在早期的软件版本中,Rubin每吉瓦产生的利润也比Blackwell平台高出2倍。随着Rubin软件栈和内核库的成熟,以及开发者社区积累更多针对Rubin的优化经验,我们预计这一差距将进一步扩大。

技术优势:极致协同设计的价值

  • 跨产品的深度协同优化,充分发挥硬件潜力
  • 专为大规模智能体推理工作负载设计的专用架构
  • 持续进化的软件生态,持续提升性能表现
  • 业界领先的能效比,显著降低运营成本

展望未来:智能推理的新纪元

随着Rubin平台的不断成熟和优化,其在智能推理领域的领先地位将更加巩固。67倍的性价比优势不仅为企业带来显著的经济效益,更为整个AI计算领域树立了新的标杆。正如Rubin所展示的,极致协同的设计理念将成为未来AI计算平台的发展方向。


关注微信号:智享开源,及时了解更新信息。

Texas Instruments TI-84 Plus Graphing Calculator Teacher's Pack of 10 –  Underwood Distributing Co.

SemiAnalysis

AgentX - InferenceXv3: Does CUDA Moat Hold up in Agentic Inferencing?

InferenceX v2: NVIDIA Blackwell Vs AMD vs Hopper - Formerly InferenceMAX

原文链接:https://newsletter.semianalysis.com/p/vera-rubin-nvl72-agentic-inference

评论列表
 
 
发表评论

你必须 登录 才能发表评论.

为你推荐