MLPerf Endpoints v0.7: A Foundation Release

MLPerf Endpoints v0.7：基础版本发布 - MLCommons

MLPerf Endpoints v0.7：基础版本发布

从GTC的演示到基础版本发布：新成果、自动化提交流水线，以及今年晚些时候推出v1.0版本的路线图，支持持续提交。

2026年7月28日

自2018年推出以来，MLPerf一直是衡量AI系统性能的标杆。在此期间，MLPerf记录了大型语言模型每瓦特推理性能提升超过100倍，训练速度提升超过50倍[1] [2]。过去八年中，AI行业逐渐成熟，如今全球企业和消费者每天都在使用AI服务。今天，我们宣布MLPerf的演进版本，这将使其更适用于这个日益成熟的行业：我们正式推出MLPerf Endpoints的第一个版本。

MLPerf最初设计的目的是帮助少数云服务提供商和下游系统构建者做出AI硬件采购决策。如今，对于各类规模的企业来说，采购推理计算能力已成为重要的商业决策——这意味着需要同时评估新云服务提供商、云服务商和托管服务的选项。这些买家需要可靠、可比、独立的性能基准来指导采购决策，而这些基准必须足够动态，以跟上每周推出新模型的行业发展速度。

MLPerf Endpoints旨在满足这一更加多样化和复杂的基准需求，以指导AI系统采购决策。我们的企业买家中心化基准开发遵循四个核心原则：

• 时效性：结果必须与市场同步。买家无法等待数月等待基准测试轮次包含新硬件或模型。

• 全面性：买家需要覆盖众多竞争性推理提供商、系统和可购买工作负载的基准。

• 可比性：买家需要跨供应商的同类对比结果，按成本或功耗标准化，以指导采购决策。

• 洞察力：为支持买家决策，Endpoints通过可视化、数据过滤和分析为基准结果提供额外背景信息。

MLPerf Endpoints v0.7是基础版本，已收录来自Coreweave、Google、Intel、KRAI和Nvidia的初步结果。我们祝贺这些成员取得卓越成果，其性能在三个基准测试中跨越多个数量级。这是我们在构建更动态、全面且可比的数据中心推理基准套件的基础。目前Endpoints支持自动化提交流水线、持续审核工具和动态结果可视化（可访问mlcommons.endpoints.com）。我们也在向更以买家为中心的基准规则演进。

今年晚些时候，我们将推出MLPerf Endpoints v1.0版本，包含更多以买家为中心的规则、标准化方法和扩展的基准集（包括智能代理工作负载），并面向更广泛的成员开放持续提交流程。持续提交流程确保Endpoints能够提供与市场同步的最新结果。

我们衷心感谢30多家支持者对MLPerf Endpoints发展的指导，包括AMD、阿贡国家实验室、Broadcom、Core 42、Dell、HPE、Lambda、Oracle和Red Hat。他们的合作帮助我们对规则和流程进行了压力测试，并改进了基础设施。随着此次发布，我们才刚刚开始。

如果您是系统或服务提供商，现在正是参与的最佳时机，帮助制定规则，并在您选择的时间规划提交。请填写此表单告知我们您有意提交以及希望使用的硬件。社区制定的规则正在为今年晚些时候的1.0版本积极完善，早期参与者将决定Endpoints的发展方向。如果您是企业买家，Endpoints正是为您打造的，我们希望了解如何更好地支持您和您的组织。请通过电子邮件[email protected]与我们联系。

我们非常珍视成员对我们作为推理基准记录的信任。我们期待与各位共同构建MLPerf的未来。

[1] A. Tschand, A. T. R. Rajan, S. Idgunji等，“MLPerf Power: 从微瓦到兆瓦的机器学习系统能效基准测试用于可持续AI”，发表于2025年IEEE国际高性能计算机体系结构研讨会（HPCA），2025年。arXiv:2410.12032。

[2] D. Kanter, M. Ahmad, H. Kassa和S. Rishab，“MLPerf Training v4.1结果——新闻发布会”，MLCommons，2024年11月13日。[在线]。获取地址：https://docs.google.com/presentation/d/1KSIJBvIV9OcswF1mVbhGRN0nUWbSgbYSoxu6dHCwajM/

分类

MLPerf Endpoints

新闻

作者

ML Commons

分享

• 邮件分享

• Facebook分享

• LinkedIn分享

• X平台分享

• 复制链接