跨国串门儿计划播客43:42

#829. Dwarkesh Patel|RSI:AI怎么从数学题进步到超越顶尖研究员?

8.5内容质量
#829. Dwarkesh Patel|RSI:AI怎么从数学题进步到超越顶尖研究员?

播客收听

时长 43:42原播客页面

问这期播客

会先在本集摘要、章节、转录和笔记里找答案。

TL;DR · AI 摘要

AI研究自动化可能在两年内达到顶尖水平,效率提升显著,算力增长推动研究员agent数量激增。

核心要点

  • AI研发效率在一年内可能压缩出4年进展,从GPT-3.5到GPT-6仅需12个月。
  • OpenAI用88小时解决千禧年大奖难题,显示AI数学能力大幅提升。
  • 到2027年底,OpenAI可能拥有1万个agent,每个agent每天训练一个GPT-3规模模型。

结构提纲

按章节快速跳转。

  1. AI在数学能力、研发效率和算力增长方面显著提升,可能在两年内达到顶尖水平。

  2. AI研发效率在一年内可能压缩出4年进展,从GPT-3.5到GPT-6仅需12个月。

  3. AI在2025年已能在国际数学奥林匹克竞赛中拿金牌,OpenAI用88小时解决千禧年大奖难题。

  4. 到2027年底,OpenAI可能拥有1万个agent,每个agent每天训练一个GPT-3规模模型。

  5. AI缺少长期记忆可能成为瓶颈,但扩展上下文学习或可绕开这一限制。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI研究自动化加速
    • 效率提升
      • 一年压缩出4年进展
      • GPT-3.5到GPT-6仅需12个月
    • 数学能力跃升
      • 2025年国际数学奥林匹克竞赛金牌
      • 88小时解决千禧年大奖难题
    • 算力增长
      • 2027年底1万个agent
      • 每个agent每天训练GPT-3模型

金句 / Highlights

值得收藏与分享的关键句。

章节

  1. AI研究达到顶尖水平,或许只需几个月到两年

    AI研究达到顶尖水平,或许只需几个月到两年

  2. METR称范围明确任务的AI进展速度翻倍

    METR称范围明确任务的AI进展速度翻倍

  3. 两年间,数学能力从做不出竞赛题到拿下金牌

    两年间,数学能力从做不出竞赛题到拿下金牌

  4. AI工作速度约为人类10倍,可全天候工作

    AI工作速度约为人类10倍,可全天候工作

  5. 点子变难找的速度,决定会不会出现纯软件奇点

    点子变难找的速度,决定会不会出现纯软件奇点

  6. 一年压缩出约4年进展,可能从GPT-3.5跨到GPT-6

    一年压缩出约4年进展,可能从GPT-3.5跨到GPT-6

  7. AI最令人头疼的缺陷:样本效率不足

    AI最令人头疼的缺陷:样本效率不足

  8. 缺少持续学习,未必阻止研究工作自动化

    缺少持续学习,未必阻止研究工作自动化

  9. 一万个agent,或各自每天训练一个GPT-3规模模型

    一万个agent,或各自每天训练一个GPT-3规模模型

转录

AI研究达到顶尖水平,或许只需几个月到两年

METR称范围明确任务的AI进展速度翻倍

两年间,数学能力从做不出竞赛题到拿下金牌

AI工作速度约为人类10倍,可全天候工作

点子变难找的速度,决定会不会出现纯软件奇点

一年压缩出约4年进展,可能从GPT-3.5跨到GPT-6

AI最令人头疼的缺陷样本效率不足

缺少持续学习,未必阻止研究工作自动化

一万个agent,或各自每天训练一个GPT-3规模模型

#AI#自动化#研究#算力#OpenAI

节目笔记

#829. Dwarkesh Patel|RSI:AI怎么从数学题进步到超越顶尖研究员? - 跨国串门儿计划 | 小宇宙 - 听播客,上小宇宙

📝 本期播客简介

本期我们克隆了:Dwarkesh Patel · Recursive self-improvement has started

原内容更新时间:2026-11-13

“距离 AI 在 AI 研究上达到人类顶尖水平,只剩下两年左右了,甚至可能只剩几个月。”Dwarkesh Patel说,自己几个月前还不相信这个判断,如今却认为 AI 已经在加速 AI 的发展。

他从数学能力的跃升、AI实验室的研发效率变化,推演自动化研究员如何凭借更快的工作速度、更强的能力和更多的并行实例推动进展。他也谈到持续学习、数据和实验算力这些可能的瓶颈,并解释为什么即使 AI 研究不是完全可验证的,仍可能被大规模自动化。

👤 本期嘉宾

Dwarkesh Patel 是本集原节目的主持人和作者,围绕 AI 研究自动化与递归自我改进展开论证。他关注 AI 在可验证任务上的进步,以及这些能力能否迁移到 AI 研发;本集的判断来自他对近期进展的观察、推演和对主要反对意见的回应。

⏱️ 时间戳

AI进步正在加速

00:20 AI研究达到顶尖水平,或许只需几个月到两年

01:09 METR称范围明确任务的AI进展速度翻倍

02:53 两年间,数学能力从做不出竞赛题到拿下金牌

自动化研究员的冲击

10:44 AI工作速度约为人类10倍,可全天候工作

14:15 点子变难找的速度,决定会不会出现纯软件奇点

15:10 一年压缩出约4年进展,可能从GPT-3.5跨到GPT-6

可验证性与瓶颈

25:35 AI最令人头疼的缺陷:样本效率不足

34:03 缺少持续学习,未必阻止研究工作自动化

40:05 一万个agent,或各自每天训练一个GPT-3规模模型

🌟 精彩内容

💡 AI研发效率已经在加速

METR在Anthropic观察3个月后称,范围明确任务上的AI进展速度是一年前的2倍。Anthropic报告称,Claude参与的AI研发工作从2月不到1%,升到26%;OpenAI高频使用内部 coding agent 的研究人员,每天使用的价值从约1000美元涨到8月底超过7000美元。

"如今这部分加速大半很可能是因为 Anthropic 广泛使用 AI 来做研发。"

💡 一年可能压缩出4年进展

如果AI自动化研究,研究员会更快、更聪明,数量也更多。Dwarkesh Patel估计,即使最终不是几个月内出现“纯软件奇点”,自动化后的第一个自然年也可能取得相当于当前速度4年的进展。

"这相当于从 GPT-3.5 到 GPT-6 Astra 那么大的跨越,只用了短短 12 个月。"

💡 数学能力的跃升让他改了判断

2023年,模型还不能稳定做四位数加法;2024年,几乎做不出高中数学竞赛题;2025年,已经能在国际数学奥林匹克竞赛拿金牌。随后,OpenAI用88小时解决了一道千禧年大奖难题。

"关于诸神的陨落,有一件事是确定无疑的。他们不会只是稍稍跌落,而是会轰然坠地,摔得粉碎。"

💡 缺少长期记忆,也未必拦得住

他曾认为,每次会话都像AI“上班第一天”,缺少持续学习会卡住研究自动化;但现在他认为,扩展上下文学习或在可验证任务上提升在线学习能力,或许能绕开这个瓶颈。他仍给“到2032年之后才自动化顶尖研究员工作”留了25%的概率。

"这些模型都已经在解决千禧年大奖难题了,却依然像一些没有长期记忆、傻乎乎的天才实习生。"

💡 一万个研究员agent,各自每天训练一个GPT-3

他用算力增长推演:到2027年底,OpenAI或许能给1万个agent分配足够算力,让每个agent几乎每天训练一个GPT-3规模的模型。作为对照,最初的Transformer论文训练最终模型用了8块P100跑3天,今天租用这批算力约需50美元。

"那么你觉得,一家 AI 实验室如果有 1 万名优秀研究员,每个人都有这么多算力,而且思考速度都快 10 倍,生产力会有多高?"

🌐 播客信息补充

本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的

使用 AI 进行翻译,因此可能会有一些地方不通顺

如果有后续想要听中文版的其他外文播客,也欢迎联系微信:iEvenight