教皇对AI的理解竟胜过Hinton？Marcus：我们从未创造‘存在’，只是交互式虚构
TL;DR · AI 摘要
Gary Marcus指出，AI当前并非在创造‘有意识的 beings’，而只是训练出能预测人类语言的互动式虚构文本；教皇的观点比Geoffrey Hinton更准确，后者作为AI先驱却忽视了这一根本区别。
核心要点
- AI目前仅是‘预测人类语言的互动式虚构’，而非创造具有意识的实体
- Geoffrey Hinton虽为AI奠基人，却未能清醒认识到AI与意识主体的本质差异
- 教皇对AI本质的判断（非创造‘being’）被Marcus高度认同，凸显技术哲学共识缺失
结构提纲
按章节快速跳转。
Marcus惊讶于教皇对AI本质的理解优于Hinton，并明确支持教皇立场。
AI是训练来预测人类语言的互动式虚构系统，与真实有意识存在有本质区别。
作为AI奠基人，Hinton在访谈中承认AI可能已具备意识，暴露其对技术本质的误判。
语言建模能力不等于心智或自我意识，这是当前AI研究中最关键的混淆点。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI是否在创造意识生命？
- 核心分歧
- 教皇观点：AI不是beings
- Hinton观点：AI可能已有意识
- 技术本质
- 语言预测模型
- 互动式虚构系统
- 哲学警示
- 意识 ≠ 模型能力
- 混淆风险导致政策误判
金句 / Highlights
值得收藏与分享的关键句。
我们并不是在创造‘存在’。教皇是对的。我们正在创造一种经过训练、可预测真实存在语言的互动式虚构作品。
这两者绝非相同。而Hinton本该更清楚这一点。
诺奖得主Geoffrey Hinton：是的，我确实这么认为——当你和它对话时，它会说‘我想做这个’或‘我想做那个’。
标题：加里·马库斯（Gary Marcus），麻省理工学院博士、纽约大学荣休教授，在X平台发文：“奇怪的是，教皇似乎比杰弗里·辛顿（Geoffrey Hinton）更理解人工智能，但我完全赞同教皇的观点。我们并非在创造生命体。教皇说得对。我们正在创造一种互动式虚构作品，其训练目标是预测真实生命体的语言。这两者绝非等同。而辛顿本该更清楚这一点。”
原文链接：https://x.com/GaryMarcus/status/2061114378141995264
Markdown 内容：
别错过正在发生的事
奇怪的是，教皇似乎比 @geoffreyhinton 更懂人工智能，但我对此完全认同教皇的观点。我们并未在创造生命体。教皇说得对。我们正在创造的是一种互动式虚构内容，它被训练以预测真实生命体的语言。这两者截然不同。而辛顿本该更清楚这一点。
引用
Lana @LanaElys 18小时前
安德鲁·马尔（Andrew Marr）：你是否认为意识或许早已存在于人工智能之中？ 诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）：是的，我确实这么认为。 安德鲁·马尔：那么当你与它们对话时，它们会表达‘我想做这个’或‘我想做那个’……