Last year we built megakernels. This year we deleted them: The road to Together Compiler
Together AI 通过删除 megakernels 并采用新方法,实现了接近甚至超越原有性能的推理优化框架 Together Compiler。
入选理由:使用 CUDA Graphs 和 PDL 可恢复 98% 的 megakernel 性能,无需编写任何内核。
产品
别名:H800
NVIDIA高性能计算芯片,用于AI训练与推理
已跟踪 14 条高相关材料
最近变化
2026-11-17 · CUDA软件生态构建了NVIDIA在AI芯片领域的护城河
为什么值得关注
H100 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Last year we built megakernels. This year we deleted them: The road to Together Compiler
Together AI Blog · 8.5 分
Together AI 通过删除 megakernels 并采用新方法,实现了接近甚至超越原有性能的推理优化框架 Together Compiler。
Why Inference Matters 12x More Than Training | YC Paper Club
Y Combinator · 8.5 分
推理计算量是训练的12倍,直接影响AI公司成本结构,DeepSeek数据揭示推理优化比训练更重要。
Mythos阴影里谷歌悄悄发模型,速度暴涨4倍
量子位 · 8.5 分
谷歌推出DiffusionGemma模型,采用扩散机制实现文本生成速度提升4倍,支持本地运行。
已收录 14 条与 H100 相关的内容,按评分排序。
Together AI 通过删除 megakernels 并采用新方法,实现了接近甚至超越原有性能的推理优化框架 Together Compiler。
入选理由:使用 CUDA Graphs 和 PDL 可恢复 98% 的 megakernel 性能,无需编写任何内核。
推理计算量是训练的12倍,直接影响AI公司成本结构,DeepSeek数据揭示推理优化比训练更重要。
入选理由:推理计算量是训练的12倍,DeepSeek数据验证该结论
谷歌推出DiffusionGemma模型,采用扩散机制实现文本生成速度提升4倍,支持本地运行。
入选理由:DiffusionGemma在H100上每秒生成1000+ tokens,比自回归模型快4倍。
NVIDIA 发布了一个 26 亿参数的开源世界模型,可在单个 GPU 上运行,适用于多种应用场景。
入选理由:NVIDIA 开源了 26 亿参数的世界模型,可在单个 GPU(如 RTX 5090 或 H100)上运行。
Parameter Golf挑战赛展示了AI辅助研究的潜力,包括训练优化、量化、测试策略和新模型创意。
入选理由:超过1,000名参与者提交了2,000多个方案,展示了广泛的技术创造力。
NVIDIA的AI芯片和CUDA软件是当前AI算力基础设施的核心,其CEO辞职事件可能加速行业技术路线重构。
入选理由:CUDA软件生态构建了NVIDIA在AI芯片领域的护城河
Cohere发布最新最强模型Command A+,结合高性能智能体AI,可高效部署,最少仅需两块H100显卡。
入选理由:Cohere推出Command A+模型,宣称是其最快、最强大的模型
黄仁勋突然离职引发英伟达及AI产业连锁反应,中美竞争与算力江湖格局或将生变。
入选理由:黄仁勋辞职后,英伟达面临战略决策与AI产业增长节奏的不确定性。
Andrej Karpathy指出,教程中直接要求用户启动8XH100显卡的建议会卡住绝大多数人,暴露了AI教育中忽视基础设施门槛的普遍问题。
入选理由:AI教程中‘启动8XH100’这类建议会让99%用户卡在第一步,因硬件成本过高。
文章提出需要一个专为vibecoding设计的共享办公空间。
入选理由:vibecoding概念强调协作与实时计算资源。
推文内容缺失,无法评估技术价值,仅包含社交平台登录链接和用户请求信息。
入选理由:推文内容未展示具体技术细节或工程实践
Cognition、Mercor、Etched 和 AnthropicAI 联合举办一场为期一天的旧金山黑客松,总奖金达 10 万美元,冠军可获 5 万美元,参赛团队将获得 H100 GPU、Anthropic 算力和 Cognition API 使用权限。
入选理由:本次黑客松由 Cognition、Mercor、Etched 和 AnthropicAI 共同主办,于6月19-20日在旧金山举行。
Cursor与SpaceXAI宣布合作,利用Colossus 2的百万H100等效算力从头训练一个规模显著更大的模型,总计算量提升10倍,预期实现模型能力的重大跃升。
入选理由:Cursor与SpaceXAI联合训练新模型,非基于现有模型微调
GPU短缺危机持续恶化,H100价格较三年前不降反升,大型AI实验室已锁定多年供应,大学研究者与个人开发者面临无卡可用的困境。
入选理由:H100 GPU当前价格高于三年前发布时,供需失衡未缓解