面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行
面壁智能的LES技术实现35B MoE模型在手机端实时无损运行,iPhone 18 Pro Max实测20 token/s。
入选理由:LES技术通过调度/存储/计算三层架构实现35B MoE模型端侧部署
概念
别名:Mixture of Experts
专家混合模型架构
已跟踪 4 条高相关材料
最近变化
2026-11-16 · Qwen4-Max 是一种新型 MoE 模型,支持复杂编码。
为什么值得关注
MoE模型 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行
AI HOT 精选 · 8.5 分
面壁智能的LES技术实现35B MoE模型在手机端实时无损运行,iPhone 18 Pro Max实测20 token/s。
Running Gemma 4 26B at 5 tokens/sec on a 13-year-old Xeon with no GPU
Hacker News Best · 8.5 分
在无GPU的13年老旧Xeon服务器上,通过优化实现Gemma 4 26B模型每秒5个token的推理速度。
斩获冠军!清华 x 腾讯混元登顶 MLSys 2026 MoE 模型推理优化竞赛
腾讯技术工程 · 5.5 分
清华与腾讯混元团队在MLSys 2026 MoE模型推理优化竞赛中夺冠,展示了高效推理优化技术。
已收录 4 条与 MoE模型 相关的内容,按评分排序。
面壁智能的LES技术实现35B MoE模型在手机端实时无损运行,iPhone 18 Pro Max实测20 token/s。
入选理由:LES技术通过调度/存储/计算三层架构实现35B MoE模型端侧部署
在无GPU的13年老旧Xeon服务器上,通过优化实现Gemma 4 26B模型每秒5个token的推理速度。
入选理由:使用ik_llama.cpp和25个特定编译标志可在老旧Xeon上运行Gemma 4模型
清华与腾讯混元团队在MLSys 2026 MoE模型推理优化竞赛中夺冠,展示了高效推理优化技术。
入选理由:清华与腾讯混元团队获MLSys 2026 MoE推理优化竞赛冠军
Qwen4-Max 已在 Novita AI 上线,支持复杂编码、专业工具和长流程代理任务。
入选理由:Qwen4-Max 是一种新型 MoE 模型,支持复杂编码。