CoreWeave Becomes the First Cloud Provider to Deliver Multi-Rack NVIDIA Vera Rubin Results in MLPerf® Training v6.1

TL;DR · AI 摘要
CoreWeave 在 MLPerf® Training v6.1 中使用 NVIDIA Vera Rubin NVL72 实现了多机架训练的领先性能,大幅缩短了训练时间。
核心要点
- CoreWeave 在 MLPerf® Training v6.1 中使用 NVIDIA Vera Rubin NVL72 实现了 17.65 分钟完成 DeepSeek-V3 671B 训练。
- CoreWeave 的多机架 Vera Rubin 配置比 GB200 NVL72 快 2.7 倍。
- CoreWeave 在单机架 Vera Rubin NVL72 上实现了 Llama 3.1 8B 训练仅需 7.16 分钟。
结构提纲
按章节快速跳转。
- §引言
CoreWeave 在 MLPerf® Training v6.1 中实现了多机架 NVIDIA Vera Rubin 的领先训练结果。
MLPerf® Training v6.1 测量 AI 系统训练模型到指定质量目标所需时间,反映系统整体性能。
CoreWeave 提交了 NVIDIA Vera Rubin NVL72 和 NVIDIA GB200 NVL72 的训练结果,覆盖多个模型和系统规模。
CoreWeave 在 NVIDIA Vera Rubin NVL72 上实现了 DeepSeek-V3 671B 和 Llama 3.1 8B 的训练结果。
CoreWeave 在 NVIDIA GB200 NVL72 上实现了 GPT-OSS 20B 和 Qwen3.5 397B 的训练结果。
CoreWeave 的多机架 Vera Rubin 配置通过优化网络和通信,显著提升了训练效率。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- CoreWeave 的 MLPerf® Training v6.1 结果
- NVIDIA Vera Rubin NVL72 的表现
- DeepSeek-V3 671B 训练时间:17.65 分钟
- Llama 3.1 8B 训练时间:7.16 分钟
- NVIDIA GB200 NVL72 的表现
- GPT-OSS 20B 训练
- Qwen3.5 397B 训练
- 多机架训练的优势
- 2.7 倍于 GB200 NVL72 的训练速度
- 优化网络和通信
金句 / Highlights
值得收藏与分享的关键句。
CoreWeave 在 MLPerf® Training v6.1 中使用 NVIDIA Vera Rubin NVL72 实现了 17.65 分钟完成 DeepSeek-V3 671B 训练。
CoreWeave 的多机架 Vera Rubin 配置比 GB200 NVL72 快 2.7 倍。
CoreWeave 在单机架 Vera Rubin NVL72 上实现了 Llama 3.1 8B 训练仅需 7.16 分钟。
CoreWeave 的多机架 NVIDIA Vera Rubin MLPerf v6.1 结果
发布于
2026 年 11 月 16 日
6
分钟阅读
CoreWeave 成为首家提供多机架 NVIDIA Vera Rubin MLPerf® 训练 v6.1 结果的云服务提供商
CoreWeave 使用 NVIDIA Vera Rubin NVL72 和 NVIDIA GB200 NVL72 实现了领先的训练结果
作者
Shadi Saba
复制
MLPerf® 训练 v6.1 测量 AI 系统训练到指定质量目标所需的时间。加速器规格描述了单个组件的潜在性能。达到目标质量所需的时间展示了整个系统在实际训练工作负载上的表现。
对于客户而言,更快达到目标质量意味着更高的性能、在相同开发窗口内进行更多实验、更有效地利用昂贵的 GPU 资源,并且更有信心大型训练任务能按时完成。在生产规模上,训练效率的提升可以减少运行天数,并显著降低基础设施成本。
我们在封闭组的可用类别中提交了 NVIDIA Vera Rubin NVL72 和 NVIDIA GB200 NVL72 的结果。提交的模型参数范围从 80 亿到 6710 亿,系统规模从单个 72-GPU 机架扩展到四个机架共 256 个 GPU。
NVIDIA Vera Rubin NVL72:
- DeepSeek-V3 671B 混合专家(MoE)预训练
- Llama 3.1 8B 语言模型预训练
NVIDIA GB200 NVL72:
- GPT-OSS 20B 推理模型预训练
- Qwen3.5 397B 开放权重多模态 MoE 模型,结合强化学习
多机架 Vera Rubin 在 DeepSeek-V3 671B 上实现了领先结果
我们在四个 Vera Rubin NVL72 机架上使用 256 个 NVIDIA Rubin GPU,仅用 17.65 分钟就将 DeepSeek-V3 671B 训练至目标质量。在相同 GPU 数量下,我们的 NVIDIA GB200 NVL72 提交结果耗时 48.40 分钟,训练时间提高了 2.7 倍。¹ 我们是本轮唯一提交多机架 Vera Rubin 结果的云服务提供商。²
DeepSeek-V3 在 Vera Rubin NVL72 和 GB200 NVL72 上达到目标质量的时间对比
这项基准对于训练大型 MoE 模型的团队尤其相关。DeepSeek-V3 在每个 MoE 层之间将令牌路由到不同的专家,这在数百个 GPU 之间产生了大量的通信需求。当训练跨越四个机架时,部分流量必须通过 NVIDIA Spectrum-X 以太网扩展网络架构传输,而不是停留在 NVIDIA NVLink™ 域内。只有当周围基础设施最小化通信开销并保持每个 GPU 的高效运行时,加速器性能才能转化为更快的训练速度。
这正是 CoreWeave 全栈工程的优势所在。我们配置和操作高性能网络、拓扑感知的工作负载分配、通信集合、软件堆栈和集群操作,作为一个集成系统。CoreWeave 目前已经在生产环境中运行 Vera Rubin NVL72,客户可以将我们的全栈工程应用于跨多个机架的大规模训练任务。
CoreWeave 实现了 Llama 3.1 8B 最快的 72 GPU 提交
在单个 Vera Rubin NVL72 机架上,我们仅用 7.16 分钟就将 Llama 3.1 8B 训练至目标质量。这是本轮最快的 72 GPU 提交,比我们同一轮中使用 72 GPU NVIDIA GB200 NVL72 所需的 13.70 分钟快了 1.9 倍。¹ 我们在两个平台上都使用了 NVFP4 GEMMs、FP8 注意力和完整的 NVIDIA CUDA™ 图表。
Llama 3.1 8B 在 Vera Rubin NVL72 和 GB200 NVL72 上达到目标质量的时间对比
这对那些反复训练紧凑模型的团队来说至关重要。Llama 3.1 8B 代表了诸如预训练小型密集模型以及在领域数据上进行持续训练等任务,团队每天完成的运行次数决定了其学习速度。理论上,一个机架每小时可以完成八次连续的基准测试运行,每次耗时 7.16 分钟,这还不包括启动和评估的开销。
总而言之,Vera Rubin NVL72 在单机架和多机架配置下,与 DeepSeek-V3 671B 和 Llama 3.1 8B 一起,取得了本轮中最强的性能表现。
Vera Rubin 在 MLPerf Training v6.1 中实现了领先的训练性能
从 GPT-OSS 20B 预训练到 Qwen3.5 397B 强化学习,GB200 NVL72 表现出色
我们在四台机架共 256 个 GPU 上,利用 NVIDIA NeMo 和 NVIDIA TensorRT-LLM,完成了 Qwen3.5 397B 强化学习,耗时 22.78 分钟,其中 128 个 GPU 用于训练,128 个用于生成。强化学习将集群分为训练和生成部分,其负载模式与预训练不同。
这些工作负载代表了模型开发的不同阶段。GPT-OSS 的结果展示了团队如何在单个机架内快速训练和迭代较小的开源模型。Qwen3.5 的提交测试了更大、更复杂的后训练工作负载,这也是 MLPerf Training 首次引入的大语言模型(LLM)后训练基准。³ 强化学习必须在多个 GPU 上协调模型生成、评估和优化,对推理性能、数据传输、工作负载调度和训练堆栈提出了巨大挑战。
CoreWeave 的全栈优化实现了更高的有效吞吐量
CoreWeave 数据中心中的 NVIDIA Vera Rubin NVL72 机架
先进的加速器设定了性能上限,但客户体验的是整个系统。有效吞吐量取决于基础设施如何高效地让 GPU 执行有用的工作。CoreWeave 围绕 AI 工作负载设计并优化了全栈,将计算、网络、编排、软件和舰队操作整合在一起,以减少达到质量所需的时间,并在大规模下保持性能。
我们在 NVIDIA Vera Rubin 上运行了 MLPerf Training v6.1 基准测试,使用的是与我们客户相同的生产基础设施。这些结果不仅反映了加速器的速度,还展示了系统如何被设计用于管理工作负载的放置、隔离、监控、硬件生命周期操作和恢复,同时实现生产级的性能。阅读我们如何部署多机架 NVIDIA Vera Rubin NVL72 集群。
在多机架规模下,网络对有效吞吐量至关重要。每当 GPU 等待数据跨网络传输时,分布式训练的效率就会下降。我们使用基于 RoCE 的 NVIDIA Spectrum-X™ 以太网 AI 网络(利用 102.4 Tb/s 的 Spectrum-6 网络)和 NVIDIA ConnectX™-9 SuperNICs 将机架连接起来,实现了跨机架边界保持 GPU 高效运行所需的高带宽、低延迟通信。
CoreWeave 任务控制协调集群中工作负载的放置和操作,同时运行 Racky 和 Valvey 以管理 Vera Rubin 机架和冷却。拓扑感知的编排考虑了 GPU 和网络的局部性,而舰队健康监控和生命周期自动化可以在影响作业性能之前识别出缓慢或不健康的组件。在数百个 GPU 上,防止掉队者或避免中断可以节省与另一个软件优化一样多的生产计算时间。
这些 MLPerf Training v6.1 的结果展示了 CoreWeave 在机架规模上的表现。在一个机架上,我们的 Llama 3.1 8B 运行是最快的 72-GPU 提交,² 并且 CoreWeave 是本轮唯一提交多机架 Vera Rubin 结果的云服务提供商。³ 我们将 NVIDIA 行业领先的加速计算平台与专用网络、拓扑感知的编排、优化的软件堆栈以及经过生产验证的舰队操作相结合,将峰值能力转化为持续的吞吐量。客户可以更快地达到目标质量,在相同开发窗口内完成更多实验,并从每个 GPU 小时中获得更多的有用工作。
#### 欲了解更多信息:
- 下载报告,了解 MLPerf 性能如何转化为总体拥有成本
- 参加网络研讨会《为智能体 AI 而设计:探索 CoreWeave 上的 NVIDIA Vera Rubin》
- 观看 Signal65 的研究报告《智能的真正代价:经济研究》
参考结果:MLCommons® MLPerf® Training v6.1,封闭组别,可用类别,发布于 2026 年 11 月 16 日。请访问 www.mlcommons.org 查看完整结果。
¹ 加速比由 CoreWeave 从已发布的 MLCommons 结果中得出,将 CoreWeave 的 Vera Rubin 提交与相同 GPU 数量的 CoreWeave GB200 NVL72 提交进行比较。结果未经过 MLCommons 协会验证。MLPerf® 名称和标志是 MLCommons 协会在美国和其他国家注册和未注册的商标。版权所有,未经许可禁止使用。
² 基于 CoreWeave 对已发布的 MLCommons MLPerf Training v6.1 封闭组别结果的分析,截至 2026 年 11 月 16 日,相同加速器数量。结果未经过 MLCommons 协会验证。
³ 基于 MLCommons 对 MLPerf Training v6.1 基准套件的已发布描述,截至 2026 年 11 月 16 日。