Helion on TPU: Towards Hardware Heterogeneous Kernel Authoring
PyTorch Blog2268 字 (约 10 分钟)
85
Helion通过高级DSL和自动调优,使TPU内核开发更高效,性能达838 TFLOPs。
入选理由:Helion生成的TPU内核在flash attention任务中达到838 TFLOPs,接近79%的MFU。
精选文章#PyTorch#TPU#DSL#性能优化英文
产品
PyTorch的高级DSL,用于编写可移植的ML内核。
已跟踪 2 条高相关材料
最近变化
2026-07-23 · Helion生成的TPU内核在flash attention任务中达到838 TFLOPs,接近79%的MFU。
为什么值得关注
Helion 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
已收录 2 条与 Helion 相关的内容,按评分排序。
Helion通过高级DSL和自动调优,使TPU内核开发更高效,性能达838 TFLOPs。
入选理由:Helion生成的TPU内核在flash attention任务中达到838 TFLOPs,接近79%的MFU。
PyTorch通过融合归一化操作到GEMM和注意力内核,实现高达35%的性能提升,减少内存IO开销。
入选理由:Lazy Pre-Norm和Multi-CTA Norm Fusion技术可隐藏90%的归一化延迟