One of AI’s Fiercest Critics Says All the Doom Talk Is ‘Meant to Distract Us’

人工智能最激烈批评者称“末日论”是“为了分散我们的注意力” | WIRED

Lauren Goode

商业

2026年9月11日 上午11:00

人工智能最激烈批评者称所有“末日论”是“为了分散我们的注意力”

Timnit Gebru认为，人工智能公司通过制造灭绝恐惧来转移对实际危害的讨论，例如自主武器。

插图：WIRED编辑部；Travis P. Ball/Getty Images

保存这篇文章

在WIRED，我们试图理解本周人工智能行业发生的至少两起事件：首先，关于价值百万美元的数学问题以及OpenAI是否秘密借鉴其他研究人员的工作率先解决问题的激烈争论。一天后，一位曾就职于OpenAI的Anthropic研究员公开辞职，表示对两家公司处理人工智能安全的方式存在担忧。Anthropic的另一位技术员工回应称，公司内部人员“确实认真认为人工智能可能会消灭全人类！我个人认为这在未来十年内发生的概率超过10%。”（注意感叹号的使用。）

互联网随即爆发了关于这些担忧是否非常合理、被过度夸大、属于监管捕获策略，或是人工智能实验室为了自我吹嘘而制造的论调的争论，或者这些因素的某种组合。

知名技术与人工智能研究员Timnit Gebru对此尤其激烈，她在X和Bluesky上发帖，讨论她认为导致这一荒谬局面的重叠理念和意识形态。此前，Gebru因从谷歌高调离职而广为人知。2018年，她被聘为评估谷歌快速发展的AI工具中的偏见，她和同事研究人员发表了一篇关于概率性大型语言模型潜在危险的论文。谷歌拒绝了这篇论文。Gebru在公司工作时间不长。她正在撰写一本关于自身经历的新书，书名为《深度反学习：人工智能的崛起与技术理想主义者的激进化》（预计明年年初出版）。

Gebru对本周发生的与人工智能相关的事件有很多看法。虽然她的工作本质上根植于人工智能安全领域，但她拒绝使用“安全与对齐”等术语，并认为那些警告我们即将面临末日的人实际上是在转移视线，使人们忽视技术行业可能造成的实际危害。

LAUREN GOODE：你认为所有关于“数学之争”的关注反映了人工智能当前的状态吗？

TIMNIT GEBRU：首先我要问，为什么他们要大力投资解决数学问题？为什么选择某些学科？不知何故，这些学科如编程、国际象棋和数学被提升到某种高度，仿佛你解决了这些问题，就等于解决了智能问题。这样他们才能说，“我们解决了它。”

OpenAI希望你听到的故事是，这个人工智能做了了不起的事情，它非常聪明。这就是他们选择数学和这个公开的百万美元问题的原因。但如果数学界完整地经历了验证这些主张的显著性和新颖性以及谁做出了贡献的流程，如果我们等到所有争议平息后再做判断，我们就能更清楚地了解OpenAI是否准确地描述了这一突破。

有这样一个名为《莱顿宣言》（Leiden Declaration）的文件，我认为它非常有价值，它警告了如果数学领域被企业以这种方式利用会发生什么。政策制定者开始依赖新闻发布会和大众媒体，而他们本应该直接与数学家本人交流。现在从企业声称取得人工智能突破到伯尼·桑德斯（Bernie Sanders）提出法案所需的时间非常短，这并不是一件好事。

在即将进行首次公开募股（IPO）之前，所有事情都变得异常残酷。研究人员本应保持协作精神。在我任职于谷歌时，我们与微软、亚马逊的研究人员都有合作，这种合作是常态。但现在，由于即将进行的IPO，研究人员对各自认为正在解决的问题都变得异常焦躁。

你如何解读那位Anthropic工程师的辞职，他表示这些公司正在鲁莽行事，拿我们的生命冒险？一方面，你似乎认同这些公司确实存在鲁莽行为；另一方面，你明确表示认为“人工智能将导致文明终结”的讨论毫无意义。

我整个职业生涯都在从不同角度表达同一个观点。我们2021年发表的《随机鹦鹉》（stochastic parrot）论文就是出于这个原因。当时OpenAI声称GPT-2过于强大，无法发布，这种炒作令人震惊。而我们当时指出，你们提出的问题本身就是错误的。

在我的书中我写道：“一座桥能决定自己坍塌吗？”“哦不，我们的模型失控了”这种说法……当一座桥坍塌时，你不会分析这座桥是否道德或具有意识，也不会追问它为何决定坍塌。你问的是：谁建造了这座桥，让它如此脆弱？你必须申请相关许可，必须进行测试。当你开始讨论桥本身为何坍塌时，你已经偏离了问题的核心。

与此同时，真正具有存在性威胁的是人工智能被用于自主武器，这些杀戮机器实际上正在被用于战争。气候灾难是真实存在的，而这些科技公司正在构建的技术可能加剧这一问题。老板们正在以人工智能为借口，解雇那些令人头疼的员工。在我看来，这种“机器神”（machine-god）的叙事是为了转移我们对这些现实问题的注意力。这个行业已经变成了一个混合的狂热群体，就像传教士宣称末日即将来临一样，这种“奇点”（singularity）的预言已经持续了几十年。

请逐步解释，如果“AI灭绝”（AI extinction）是真实发生的，它是如何发生的？我想到有人在帖子中写道：“愤怒的GPU会突然出现在我的家门口吗？”

我很难想象这种情况，但很多场景似乎都是你让机器优化某个任务，然后机器决定实现目标的唯一方式是让全世界的人都死亡。AI会用催眠术让你无法拔掉它的电源吗？我不知道！还有人说，AI可以感染你的设备。是的——我们已经有恶意软件了，所以……

洪水和火灾呢？全球粮食供应链的重大中断呢？我们正面临真正的威胁，比如人们能够制造和使用化学武器。[注：在我们对话后不久，Anthropic就宣布已阻止科学家尝试制造生物武器的多项潜在恶意行为。]

还有另一种情况，你所拥有的特权让你无法想象其他事物可能对你造成伤害。比如，如果你不担心警察暴力、洪水或战争——这些实际上可能夺走你生命的威胁——那么你就可以沉迷于对“机器神”的执念。

为什么我们要花这么多时间讨论这个从20世纪40年代和50年代就开始被人们谈论的人工智能概念？我有时会玩一个游戏，就是向人们展示我在研究中收集的人工智能相关语录，然后问他们：“这句话是在哪个年代说的？”有时人们能答对，但很多时候他们答不上来，因为所有内容听起来都差不多。

这是Steven Levy和Lauren Goode的Backchannel通讯的一期内容。[阅读往期通讯](链接)