英伟达推Vera Rubin多吉瓦部署：推理成本降至1／10

2026年10月27日，英伟达与甲骨文联合宣布将Vera Rubin NVL72扩展至多吉瓦规模的OCI Supercluster，同时NVIDIA Vera CPU正式登陆OCI平台。这不仅是两款新硬件的上架，更是AI基础设施建设从“堆GPU数量”向“系统级效率优化”转变的分水岭。

按英伟达产品页标注，单机架Vera Rubin NVL72搭载72颗Rubin GPU与36颗Vera CPU，其NVFP4推理性能达到3，600 PFLOPS（稀疏规格）。相较于上代Blackwell GB200 NVL72，该机型使用四分之一GPU即可训练相同规模的混合专家（MoE）模型，推理成本降低至十分之一；每兆瓦可处理高达10倍的Token吞吐量。

这些数字的前提是官方明确标注的“Projected performance subject to change”——实际落地仍待量产爬坡验证。但无论最终交付数据如何浮动，这套系统的核心逻辑已经清晰：AI算力竞争正在脱离单纯比拼芯片数量的路径依赖。

不只是加卡：系统级优化的三层解法

过去几年，大模型算力竞赛的核心叙事是“更大、更多”。训练万亿参数模型需要十万甚至几十万颗GPU集群，成本动辄数十亿美元。这种模式下，决定胜负的是谁能买到更多卡、谁有更大的机房空间。

Vera Rubin NVL72尝试给出不同的答案。它通过三个层面的系统优化来压缩单位算力的成本：

第一层是架构层面的NVLink 6互联技术。机架内72颗GPU通过第六代NVLink Switch进行scale－up互联，显存带宽达到1，400 TB／s，显存容量20．7 TB HBM4。这意味着GPU之间共享数据的瓶颈被大幅缓解，模型并行训练的沟通效率显著提升。

第二层是能效层面的每兆瓦吞吐量提升。英伟达声称在配合Groq 3 LPX机架使用时，每兆瓦吞吐量比前代提升35倍。虽然具体基准测试依赖于Kimi－K2 Thinking模型及10T MoE模型等特定场景，但方向很明确——电力成本和散热成本不再是线性增长。

第三层是规模化层面的吉瓦级基础设施。OCI计划扩展Supercluster至多吉瓦规模，这需要配套的Acceleron网络、Spectrum－6以太网交换机、BlueField－4 DPU以及吉瓦级供电和冷却设施。100MW规模的AI工厂配置中，总计包含40，000个Rubin GPU，可实现2 ZFLOPS（稀疏）推理或1．4 ZFLOPS（密集）训练算力。

这三层优化叠加后，“推理成本降至1／10”的说法有了物理基础。但它带来的真正改变是什么？

Vera CPU：为Agent工作流补上的最后一块拼图

如果说GPU决定了AI能跑多快的“爆发力”，那CPU决定了AI能否持续运转的“耐力”。这才是本次合作中最容易被忽略的创新点。

传统上，AI模型的训练和推理主要由GPU完成。但在Agent（智能体）场景下，情况完全不同。AI Agent不只是生成文本回复，它们需要在模型调用间隙执行工具、测试代码、检索数据——这些任务本质上都是CPU密集型操作。

如果CPU执行这些任务太慢，GPU就会等待，整个系统的生产力会大幅下降。这就是为什么英伟达选择推出专用的Vera CPU。

据英伟达和甲骨文联合新闻稿，Vera CPU的定位非常精准：高单线程性能加速单个tool call和代码执行，高内存带宽则为多并发agent任务持续供数。两者结合减少了GPU的空转等待时间（idle time），使GPU能在更高利用率下运行。

这种“GPU训练＋CPU补位”的架构设计，填补了此前AI基础设施中CPU与GPU各自为战的空白。Oracle还配套推出了独立的CPU／GPU扩缩容能力，客户可以根据工作负载动态调整资源分配，减少闲置容量。

OpenAI已经在实践中验证了这一模式。OpenAI计算基础设施工程负责人Uday Ruddarraju确认，已将Vera引入生产环境，用于支撑agentic sandbox工作负载。他形容Vera CPU提供了“world－class loaded performance”。

与此同时，OpenAI在Abilene区域的OCI Supercluster上已部署超过10万颗Blackwell GPU，用于训练和服役GPT－6 Astra。这表明最前沿的AI公司已经意识到，未来的竞争不在单一模型的准确率上，而在算力系统的整体效率和成本控制能力上。

Oracle的机会：在AWS与Google之间撕开缺口

对甲骨文而言，这次合作是其AI云战略的关键一步。

长期以来，AWS和Google Cloud在AI基础设施市场占据主导地位。Azure则凭借与Microsoft Copilot生态的深度绑定获得了额外优势。OCI作为后来者，需要在某个细分领域建立差异化竞争力。

Vera Rubin NVL72 ＋ Vera CPU的组合，恰好给了Oracle一个独特的切入点：不仅提供GPU算力，更提供覆盖Agent全工作流的完整解决方案。这与AWS Trainium、Azure Maia和Google TPU形成鲜明差异。

Oracle云基础设施总裁Mahesh Thiagarajan表示：“我们将NVIDIA Vera Rubin GPU与Vera CPU结合，配合Oracle Acceleron网络和AI优化数据中心，帮助客户保持GPU高效运转，并在需求增长时安全高效地扩展。”

更重要的是，甲骨文已经拥有现成的OCI Supercluster部署经验。GB200和GB300 NVL72系统已经在运行，CUDA软件基础贯穿各代硬件。这种延续性降低了客户的迁移成本和技术风险。

不过，Oracle也需要面对现实挑战。多吉瓦规模部署的具体时间表和投资金额尚未公开；HGX Rubin NVL8虽然是兼容x86应用的灵活方案，但其市场份额转化仍需时间验证。此外，云厂商间的价格竞争和套餐捆绑策略，将直接影响客户的选择。

后续观察：四个关键指标

要判断Vera Rubin是否真的如预期般改变AI算力经济，建议关注以下四个指标：

1。 实际推理成本降幅：当前“1／10”是预期性能数据，量产后的实际部署成本和每token价格才是检验标准。对比AWS、Azure和GCP的同类型推理服务定价。

2。 Vera CPU的采用率：客户在Agent工作流中对CPU／GPU独立扩缩容的实际使用情况。如果大部分客户仍以GPU为主、CPU为辅，说明“CPU补位”的市场教育还需时间。

3。 OpenAI以外的头部客户：目前公开信息中只有OpenAI确认投产。Anthropic、Meta、Stability AI等其他大模型公司是否会跟进，将反映市场对这套方案的真实认可度。

4。 OCI在AI云市场的份额变化：关注Gartner或IDC季度报告中，三家超大规模云厂商在AI训练与推理服务的收入占比变化。这是衡量Oracle是否成功缩小差距的最终标尺。

AI算力竞赛从未停止，只是竞争的维度正在从“谁有最多的卡”变成“谁的系统最高效”。Vera Rubin NVL72的多吉瓦部署，正是这一转变的第一批具象化成果。