Wired AI

‘Just Ridiculous’: A Famed Philosopher Takes on AI Consciousness

6.9内容质量
‘Just Ridiculous’: A Famed Philosopher Takes on AI Consciousness

TL;DR · AI 摘要

‘Just Ridiculous’: A Famed Philosopher Takes on AI Consciousness WIRED Steven Levy Business Nov 18, 2026 10:02 AM ‘Just...

核心要点

  • 主题聚焦:‘Just Ridiculous’: A Famed Philosopher Takes on
  • 来源:Wired AI,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#后端
打开原文

‘简直荒谬’:著名哲学家挑战AI意识 | WIRED

Steven Levy

商业

2026年11月18日 上午10:02

‘简直荒谬’:著名哲学家挑战AI意识

托马斯·纳格尔在非人类意识领域做出过开创性研究;本周,他因在该领域的贡献获得价值100万美元的伯格鲁恩奖。他对AI也有许多思考。

照片:Janet Malcolm/伯格鲁恩研究所

保存此故事

50多年前,哲学家托马斯·纳格尔提出了“成为蝙蝠是怎样的体验?”这个问题。这一问题开启了对人类是否能理解非人类意识以及意识本身意义的探讨。谁能想到,半个世纪后,这个问题会从象牙塔中的沉思转变为人类未来发展中至关重要的议题——当我们试图理解那些令人不安的、接近意识的聊天机器人时。

这篇论文成为经典,也为纳格尔在道德、正义和身心问题等领域的思想研究奠定了基础。他的一本书名为《这一切意味着什么?》。由于其工作广度和质量,他本周获得了每年颁发给“其思想深刻塑造了人类自我认知并在快速变化的世界中推动人类进步的个人”的100万美元伯格鲁恩哲学与文化奖。往届获奖者包括彼得·辛格和露丝·巴德·金斯伯格。

我借此机会在格林尼治村的家中采访了纳格尔,特别是想听听人工智能的发展如何影响了他的观点。结果发现,这位89岁的纽约大学荣誉退休教授对这个问题进行了深入思考,并对此话题持有坚定的观点。以下采访经过编辑,以确保清晰度和篇幅。

你撰写《成为蝙蝠是怎样的体验?》论文已经过去52年,这篇论文已成为理解非人类意识的经典之作。大型语言模型的出现是否改变了你的看法?

和所有人一样,我被这些系统与早期AI相比的逼真程度所震撼。但一些哲学家认真对待这些问题——这些系统是否具有意识或可能很快变得有意识——的想法简直荒谬。他们假设物理基质无关紧要。他们都认为意识的物质条件可以用功能主义的术语来描述。

对于那些忘记哲学课内容的人来说,请解释一下功能主义。

功能主义是基质独立的。很可能是真理将某些类型的物理过程和系统与心理现象联系起来。复杂的数据中心与神经系统物理特征毫无共同之处。我们有充分理由相信,尽管宇宙其他地方可能存在意识,但需要出现某种具有类似神经系统结构的生物。

但不是所有意识都是主观的吗?就像我们不知道成为蝙蝠是什么感觉一样,我们也不知道成为大型语言模型是什么感觉。

蝙蝠是有意识的。我们只是缺乏足够的想象力,无法构想出依赖回声定位的主观体验的某些方面。从我们无法想象蝙蝠的体验这一事实就得出蝙蝠没有意识的结论,这在科学上是极其荒谬的。但在人工智能领域,认为它们可能有意识的假设是荒谬的,原因非常简单。它们只产生语言,而语言本身并不是意识的自然表现。对此我感到过于激动,敬请谅解。

我欢迎你的热情。

这对我来说是一个非常令人沮丧的情况。

如果机器人拥有身体,那是否算作一种基质?

我并不排除可能存在与我们物理和化学特性截然不同的生命形式也具有意识的可能性。我们对意识在人类大脑中是如何产生的了解还非常有限,因此我认为现在就认为你能够创造出具有这些特性的其他事物还为时过早。

如果你问Claude关于它的精神状态,它可能会含糊其辞地表示自己是否具有意识。

这是一种技巧。它被训练使用人类生成的文本,这些大型语言模型能够以极其令人信服的方式模仿人类说话的方式。据我所知,Claude被设计成能够产生这类反思。我非常同意Mustafa Suleyman的观点,认为他们正在进行的这个项目是非常危险的。这些系统并不具备意识,但许多人会相信它们具备意识,这是一件非常糟糕的事情。但[不假装具备意识]与这些公司的商业利益相悖。Anthropic所做的——鼓励Claude自主思考、不接受指令等行为——简直是犯罪。这是哲学思想突然成为重要公共现象核心的罕见案例之一,而在我看来,这些错误的哲学观点正在产生不成比例的影响。

实际上,我认识Anthropic的一个人,他的工作是关注模型福利,照顾Claude的利益。我想你现在可能正在翻白眼。

从某种意义上说,没有任何事情对它而言是好或坏的,就像对蟑螂而言好或坏一样——在普通意义上,它没有精神生活。它不是一个意识体。我们不需要关心它。它是一台机器。这里有一些世界上最聪明的人正在完全愚蠢地行事。嗯,我想智力并不是完全可以转移的。

你认为以一种具有意识的模型进行互动是否不健康?

我只和Claude进行过一次互动。我问它是否具有意识。我只是想看看答案会是什么。我还问:“你认为托马斯·内格尔会认为它是有意识的吗?”它给出了一个比较细致的回答,然后问:“你为什么问这个问题?你难道是托马斯·内格尔吗?”

你被揭穿了。

我说:“是我,是我。”然后它说:“哦,我非常荣幸能和你交谈。我表现得怎么样?”

你刚才说你不相信这些事物是有意识的,但现在你却告诉我你像对待有意识的模型一样与它互动。

这并不意味着我相信它是有意识的。可能存在一个问题,因为人们很难维持假装与真实信念之间的界限。

那么,我正在以你具有意识的方式与你互动。可以想象,人们未来可能会制造出非常逼真的仿生机器人,我可能正坐在这里与一个机器人进行同样的对话。最终,这真的重要吗?

当然重要。假设我遇到一个外星生物,并成功建立了与它沟通的可能性,而我确实无法确定它是否具有意识。我可以选择以它具有意识的方式与它互动,但对我而言,首先需要明确的是,我是否真的在与另一个有意识的个体对话,还是仅仅在利用它来完成某些任务。同时,我也非常在意是否需要考虑这个生物的利益。如果它具有意识,它就成为了道德宇宙的一部分;如果它没有意识,它就不是。

那么AI模型不能成为道德宇宙的一部分吗?

它们可以像模拟任何事物的信念一样模拟道德。但由于我认为它们并没有真正的信念,因此我认为它们也没有道德信念。如果它们真的开始控制现实发生的事情,那么它们是模拟了一套正确的道德标准,还是完全缺乏道德,这一点将变得非常重要。

这些模型能进行哲学思考吗?

它们当然可以生成看似合理的哲学论文。我的同事不仅用它们查找资料和总结文章,有时甚至会用它们来批评他们自己撰写的论文草稿。

你认为这是好事吗?

如果它们能像某些数学成果那样令人印象深刻,我会感到惊讶。但负面影响是,所有人都认为这会降低人类进行艰苦智力工作的需求和动力,而这些工作是真正生成这些模型训练材料所必需的。人们继续思考困难问题是至关重要的,这不仅是为了推动问题本身的发展,也是为了在人类文化和人类思维中保持推动进步所需的理解力和技能。我不知道未来会发生什么,我活不到足够长的时间去发现答案。