教皇似乎比Geoffrey Hinton更懂人工智能
TL;DR · AI 摘要
文章指出，教皇方济各在AI意识问题上的见解比Geoffrey Hinton更深刻——他强调‘真正的理解来自经验而非文本拟合’，而Hinton的访谈中仍混淆了LLM输出与人类内在状态的本质差异；作者援引Nature论文与自身研究，重申LLM只是‘训练来预测人类语言的互动虚构’，并非创造‘存在’。
核心要点
- 教皇方济各在推文中明确指出：'真正的理解源于经验，而非文本近似'。
- Gary Marcus引用2024年2月《Nature》论文，强调LLM研究人员并未创造‘存在’，而是构建‘可预测人类语言的互动虚构’。
- Hinton等专家常犯错误：仅凭LLM输出相似性就推断其具备类似人类认知机制，忽视底层‘记忆整网’与‘经验建模’的根本差异。
结构提纲
按章节快速跳转。
作者指出Hinton对AI输出机制缺乏反思，类比其与Dawkins曾犯的同一错误——将LLM输出相似性误认为内在状态相似。
教皇Leo XIV在推文中提出‘真正的理解来自经验，而非文本近似’，比Hinton更准确把握AI本质。
作者与Capraro、Quattrociochi在2024年2月《Nature》发文，明确区分LLM是‘交互式虚构’而非‘有意识存在’。
LLM通过海量数据‘记忆整网’生成输出，而人类通过世界互动构建心智模型，二者机制差异巨大。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI意识与LLM本质辨析
- 核心分歧：输出 vs 机制
- LLM：文本拟合 + 记忆整网
- 人类：经验建模 + 内在状态
- 权威观点对比
- Hinton：易混淆输出相似性
- 教皇：强调经验为理解根基
- 学术共识
- Nature论文：LLM ≠ 存在
- 定义澄清：互动虚构 vs 真实意识
金句 / Highlights
值得收藏与分享的关键句。
根本问题在于：[某资深人物]并未反思AI输出是如何生成的。Claude的输出是模仿的结果，而非真实内在状态的报告。
真正的理解来自经验，而非文本近似。
LLM研究人员并未创造‘存在’。他们创造的是‘一种训练来预测真实存在语言的互动虚构’。
标题：教宗似乎比杰弗里·辛顿更懂人工智能。
原文链接：https://garymarcus.substack.com/p/the-pope-appears-to-understand-ai
发布日期：2026-05-31T16:38:20+00:00
Markdown 内容：
最近对杰弗里·辛顿的新采访：
我可以写一篇长文，解释为何这种说法几乎毫无道理——类似我近期撰写的关于理查德·道金斯的文章，他在犯下类似错误时，其核心问题如下。我只需将其中加粗的词句稍作替换即可。
此处的根本问题在于，[此处插入某位知名资深人物姓名]并未反思 _AI 输出是如何生成的_。Claude 的输出是某种模仿的结果，而非对其真实内在状态的反映。
意识关乎内在状态；无论模仿多么丰富，它所证明的却微乎其微。道金斯似乎误以为，因为大语言模型（LLM）说出的内容与人类一致，所以它们就“像”人类，但这显然不成立。
在他的表述中，[资深人物 X] 自己混淆了概念，并对“意识”这一概念（以及“成为存在”的本质）造成了扭曲。你不能仅凭输出结果，而不考察其底层机制，就断定两个实体之所以产生相似输出，是因为采用了相似的方式。而二者之间的差异实则巨大：一个（LLM）本质上是在记忆整个互联网；另一个（人类）则是通过与世界的互动经验构建出心智模型。
但又何必重写那篇文章呢？
就在几天前，在辛顿接受采访时，教宗良十四世在一条推文中（紧随他那篇精彩通谕之后），以更精炼、更到位的方式表达了相同观点：
真正的理解源于经验，而非文本近似。
§
正如瓦莱里奥·卡普拉罗（Valerio Capraro）所指出的，教宗的观点与我们去年二月在《自然》杂志上与沃尔特·夸特罗奇奥奇（Walter Quattrociochi）共同提出的观点高度相似：
§
大语言模型研究人员并非在创造生命体。
他们只是在创造一种“经训练以预测真实生命体语言的交互式虚构作品”。
这两者截然不同。
而辛顿本该更清楚这一点。
附注：想了解我对 LLM 中所谓“情绪”状态的看法，以及为何这些并不构成有力证据？敬请期待我即将发表的一篇专题文章。若感兴趣，还可参阅我近期与艺术家兼音乐人 Grimes 关于 AI 与意识的即兴辩论，共两轮讨论，详见此处和此处。