#659.xAI 联合创始人：Igor Babuschkin 解读模型开发的未来

#659.xAI 联合创始人：Igor Babuschkin 解读模型开发的未来 - 跨国串门儿计划 | 小宇宙 - 听播客，上小宇宙

📝 本期播客简介

本期我们克隆了：知名播客 Unsupervised Learning: With Jacob Effron xAI Co-Founder: Igor Babuschkin Unpacks the Future of Model Development

原内容更新时间：2026-07-31

本期嘉宾是xAI联合创始人、River AI创始人Igor Babuschkin，主持人是Redpoint投资人Jacob Effron。Igor的职业生涯几乎横跨了所有顶级AI实验室：在DeepMind主导星际争霸和AlphaCode项目，在OpenAI推理团队早期加入、参与了o1模型诞生前的研究，随后联合创办xAI，在约120天内建成Colossus数据中心，并推动Grok系列模型达到前沿水平。

这期节目里，Igor首次深度分享了离开xAI后创办River AI的完整思考，以及他在企业AI、个人AI和本地硬件上的三个核心押注。他还坦诚聊到了与Elon Musk共事的真实体验、对Cursor收购的看法、为什么他认为闭源模型厂商作为生意正陷入困境，以及他对AI对齐、开源模型和人类未来的深刻反思。如果你关心AI行业的走向、模型训练的瓶颈，或者想了解顶级AI研究者如何看待这个时代的变革，这期节目会给你大量一手判断。

👨‍⚕️ 本期嘉宾

Igor Babuschkin，River AI创始人兼CEO，xAI联合创始人。他的职业生涯横跨DeepMind、OpenAI和xAI三大顶级AI实验室：在DeepMind主导了星际争霸AI项目和AlphaCode项目，在OpenAI参与了推理方向的早期研究，随后联合创办xAI并主导了Colossus数据中心的建设。2025年离开xAI后创办River AI，专注于企业AI、个人AI和本地硬件三个方向。他是一位兼具研究深度和工程能力的AI领域领军人物，对模型训练、强化学习和AI对齐有极深的理解。

⏱️ 时间戳

00:00 开场 & 播客简介

嘉宾登场与背景介绍

01:10 主持人Jacob Effron介绍Igor的传奇经历

02:18 Igor接受邀请，对话正式开始

从科幻小说到AI愿景

02:56 Igor谈为何写科幻小说：编程Agent的爆发

04:17 现代版《魔法师的学徒》：AI失控的隐喻

05:11 个人AI是Agent的下一个迭代方向

AI的下一步：从可验证到不可验证

05:57 科学发现是AI的下一个明确方向

07:16 数据瓶颈：物理世界实验的挑战

08:09 超级AI与日常AI的分化

River AI的三个赌注

09:26 创办River AI的动机：分发AI的控制权

11:20 三个项目：企业API、个人AI、本地硬件

11:36 第一个赌注：River API强化学习服务

12:12 第二个赌注：个人AI与个性化对齐

13:10 第三个赌注：本地硬件与推理算力

本地AI的隐私与控制

14:47 控制权是本地AI的核心动机

15:02 本地设备的低延迟优势

15:23 个人AI的隐私问题与数据安全

模型个性化与端到端训练

15:57 个人模型的持续学习与定制

16:24 端到端训练的重要性

17:08 以个体幸福感为奖励函数

企业AI与开源模型的未来

19:19 企业定制模型的成本与速度考量

19:50 专有模型与开源模型的竞争格局

20:36 开源模型变强带来的趋势变化

21:42 专有模型厂商的困境：两头受压

开源模型与地缘政治

27:48 中国开源模型的优势与风险

28:13 开源模型降低门槛的价值

29:03 对模型后门风险的评估

29:37 美国需要最好的开源模型

从DeepMind到OpenAI的旅程

30:38 回顾AI进展的惊人时刻

30:55 从物理学家到AI研究者的转变

32:04 星际争霸项目的技术挑战

33:04 AlphaCode：编程是下一个大方向

33:49 加入OpenAI推理团队

OpenAI与DeepMind的比较

34:50 两家实验室的文化差异

35:11 OpenAI的优势：人才密度与共识

35:42 对AI权力集中的担忧

xAI的创立与Colossus

37:11 与Elon Musk的相遇与共鸣

37:49 xAI的创立与人才聚集

38:26 Colossus数据中心：120天的奇迹

39:10 质疑传统数据中心建设方式

与Elon共事的体验

40:10 Elon对工程师的尊重

40:46 深入工程细节的领导风格

41:08 高能量与团队动力

Cursor收购与编程模型

41:25 Cursor收购是极其聪明的一步

41:52 真实世界编程数据的价值

42:24 强化学习环境的重要性

模型训练的瓶颈与突破

43:08 最大瓶颈：长时域与不可验证奖励

43:39 编程赛道的陷阱与长时域领域

44:04 Agent rollout时间对训练的限制

不可验证领域的进展

44:37 LLM裁判方法的兴起

44:50 模型自身判断力的可靠性

45:18 配方已存在，等待大规模实验

AI的变革时刻与未来

45:41 编程Agent的变革超出预期

46:22 阶跃变化时刻的不可预测性

人类与机器的共生

46:50 人类在AI时代的位置

47:12 与机器建立正确的共生方式

47:58 对齐需要更深层次的进展

AI安全与放缓的呼吁

49:17 对放缓AI发展的公开信的看法

49:32 AI已太大，难以慢下来

50:02 在安全技术上加速

开源模型与对齐研究

50:15 开源模型对安全研究的价值

50:35 网络安全能力是当前最大风险

AI的风险评估

50:55 AI放大不平等的直接风险

51:18 模型接管一切的远期风险

结尾与感悟

51:40 《向机器神祈祷》中的动人句子

51:57 第一次让模型跑起来的神奇感觉

52:39 收尾与感谢

🌟 精彩内容

💡 "我们想做爵士乐队，不想做军乐队"

Igor用"爵士乐队"形容Notion的组织状态：不是没有结构，而是在结构中允许即兴、协作和个人发挥。AI时代变化太快，传统计划与层级不足以应对每周都在变的技术环境。

"我们想做爵士乐队，不想做军乐队。"

💡 AI产品不是造桥，而是酿啤酒

传统软件像造桥，设计清楚结果可预测；用language model构建产品更像酿啤酒，你无法完全控制"酵母"，只能让最强的人一起实验、评估、打磨。

"用language model构建产品，更像是在酿啤酒。"

💡 编程Agent的爆发是所有人都没预料到的变革

Igor坦言，他原本预期编程模型会平稳进步，但2025年11月、12月编程Agent突然跨过能力门槛，使用量爆发式增长，这种阶跃变化完全超出预期。

"使用量的突然爆发，那真的是另一回事。"

💡 闭源模型厂商正被两头挤压

前沿模型强到可能不被允许发布，而开源模型每个月都在变强。Igor认为做专有模型其实不是个好位置，出路在于创新和走向分布式。

"你把模型做得太好了，不让你发布；但开源就在你身后，每个月都在变强。"

💡 个人AI的核心是端到端训练个体幸福感

Igor认为，未来的个人AI应该针对每个个体进行端到端训练，以最大化一个人的幸福感为奖励函数，而不是让模型在平均用户上表现良好。

"你真的要针对你想优化的那个真实信号去做端到端训练——也就是个体的幸福感。"

💡 本地硬件是AI控制权的根本

Igor强调，把推理算力带到用户本地，让模型真正属于个人，是解决AI权力集中的根本一步。这既是研究问题，也是工程问题。

"我们能不能把推理算力带到用户本地？要真正在办公室、在家里放一台小设备就能跑前沿模型，需要做到什么？"

💡 美国需要拥有最好的开源模型

Igor认为，美国拥有最好的开源模型至关重要，这既是地缘政治的需要，也是让更多人参与AI对齐研究的基础。

"我们应该都想办法，怎么让一个美国团队训练出全世界最好的开源模型，没有之一。"

💡 人类需要与机器建立深层次的共生

面对"机器能做所有工作，人类还剩什么"的问题，Igor认为关键在于找到与机器的正确共生方式，这需要对齐方面的新进展，甚至可能包括神经接口。

"我们应该努力的方向，是想办法让共生继续下去。而对我来说，这需要对齐方面的新进展。"

🌐 播客信息补充

本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的

使用 AI 进行翻译，因此可能会有一些地方不通顺；

如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight