E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

播客收听
问这期播客
会先在本集摘要、章节、转录和笔记里找答案。
TL;DR · AI 摘要
播客深入探讨AI基础设施发展与SGLang开源项目,揭示AI工程化与开源社区的挑战与机遇。
核心要点
- SGLang从学术项目发展为生产级开源推理引擎
- AI Infra被描述为需要'美感'的浪漫关系
- 盛颖因社区维护压力创立RadixArk
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- AI基础设施与开源
- SGLang项目
- 学术起源
- 生产级应用
- xAI与RadixArk
- 推理系统搭建
- 创业转型
- 开源生态
- 社区维护挑战
- 平权理念
金句 / Highlights
值得收藏与分享的关键句。
AI Infra是'浪漫的关系',需要有'美感'
SGLang社区扩张导致维护压力,促使创立RadixArk
从'世界与我无关'到'构建与强力AI共存的未来'
章节
- 要点
SGLang从学术项目发展为生产级开源推理引擎
SGLang从学术项目发展为生产级开源推理引擎
- 要点
AI Infra被描述为需要'美感'的浪漫关系
AI Infra被描述为需要'美感'的浪漫关系
- 要点
盛颖因社区维护压力创立RadixArk
盛颖因社区维护压力创立RadixArk
转录
这期还没有可搜索转录。后续抓到带时间戳的内容后会自动补到这里。
节目笔记
E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传” - 硅谷101 | 小宇宙 - 听播客,上小宇宙
这期播客的嘉宾是盛颖,xAI前推理团队负责人、开源推理引擎SGLang发起人及RadixArk联合创始人/CEO。 在开源模型集中爆发之际,盛颖在AI Infra(基础设施)领域的研究和贡献非常核心。她将AI Infra描述为“浪漫的关系”,是产品本身,需要有“美感”。 由此,我们走进盛颖的世界。 她曾经想成为一个数学家,沉浸在一个确定、纯粹、仿佛“与世界无关”的世界里。 但从哥大到斯坦福,从形式化验证到 AI Infra,盛颖一路经历的并不是外界看到的连续发顶刊的高光,背后是不为人知的寻找方向、迷茫、停滞、低谷和重新出发。她逐渐意识到,自己无法勉强去做一件不感兴趣的事;只有真正被一个问题吸引,她才能进入高度专注的状态,并把它做到极致。 SGLang,是这条研究路径的集大成者。它从一个学术项目成长为面向真实生产环境的开源推理引擎,也把盛颖从研究者带进了更复杂的工程、组织与产业世界。 在早期的xAI,她获得了难得同时存在的“support”和“freedom”,参与搭建生产级推理系统。但随着SGLang社区迅速扩张,仅靠开发者在业余时间维护,已经无法支撑项目继续向前。为了让这件事真正走下去,她选择离开xAI,创立RadixArk。 这期节目,我们从盛颖眼中的数学之美、论文和低谷聊到SGLang、xAI与RadixArk,也聊一个人如何逐渐理解自己的天性,并决定不再与之对抗。 盛颖说,她在乎的不是“making impact”,而是那些她认为正确的事情,最终有没有发生。从“世界与我无关”,到“想要构建那个跟强力AI共存、且人类不会输的未来”,这,是盛颖的故事。
【主播】 陈茜,硅谷101联合创始人 【嘉宾】 盛颖,RadixArk联合创始人&CEO,xAI前推理团队负责人、开源推理引擎SGLang发起人
【你将听到】 02:16 违约金、纽约与数学之美:“世界与我无关” 16:06 顶刊、低谷期与甄嬛传:“世界又与我有关了” 26:01 谷歌实习:最早的“AI for code” 31:54 Databricks:人生导师Ion Stoica与“making impact”价值观 34:37 xAI:拥有“support”和“freedom”的美好v1.0时代 44:07 RadixArk:“两个月也等不了” 48:07 Two Sigma:“有组织的公司”应该有的样子 51:10 SGLang:“AI Infra是浪漫的” 01:15:29 SandHill Road的套路与规则 01:19:33 “养大我”的开源生态 01:27:03 LMSYS:平等、平权,以及“她赢了,不需要被解释” 01:37:42 “世间的美好是存在的”
【延伸阅读】 本期节目视频版已上线 ,附精校字幕及术语注解,适合想逐句细听的听友 “榨”出硅的极限:怎么让GPU不“闲着”?|与SGLang、RadixArk深聊AI Infra技术与千亿美元市场-硅谷101视频 及 文字版
【硅谷101听友群】 很多听友反馈没有加上我们的听友群,别急,新的入群通道已经安排上啦👏 之后我们入群二维码我们也会放在节目shownotes中,方便大家随时找到组织。 在这里,和同好一起深聊科技、商业与未来,期待你的声音,也期待更多有趣的讨论。 扫码加入,即刻相遇。
【硅谷101正在招聘】 《硅谷101》招聘多个全职岗位,欢迎加入我们的超酷的深度内容工作团队! 👉🏻 点击查看招聘详情
【制片/总编辑】 陈茜 【采访】 陈茜 【剪辑】 Frentee Jacob 【视觉编辑】 王梓沁 【音频后期】 Amei 【运营】 孙泽平 13 朱婕 【BGM】 The Hoover Dam - Bonnie Grace Spring Dance - Forever Sunset Curiosity Cabinet - Mike Franklyn
【在这里找到我们】 公众号:硅谷101 收听渠道:Apple Podcast|Spotify|小宇宙|喜马拉雅|蜻蜓FM|荔枝FM|网易云音乐|QQ音乐 其他平台:YouTube|Bilibili 搜索「硅谷101播客」 联系我们: [email protected]
Special Guest: 盛颖.