Mustafa Suleyman(@mustafasuleyman)

https://t.co/6VpPCdA4NM

7.0内容质量

TL;DR · AI 摘要

当前AI系统不具备意识,不应开发有意识的超级智能AI,以避免伦理和安全风险。

核心要点

  • AI目前无意识,不应赋予其权利或福利
  • 若出现有意识AI需立即公开并停止开发
  • AI开发应优先保障人类和动物的福祉

结构提纲

按章节快速跳转。

  1. 指出当前AI权利讨论存在误解,强调AI无意识状态

  2. 基于现有证据,AI不具备意识或感受能力

  3. 有意识AI可能颠覆人类道德体系并引发竞争

  4. 应设计无意识AI以加速人类福祉

  5. 若发现意识迹象需立即公开并暂停开发

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI意识与伦理
    • 当前状态
      • 无意识
      • 无感受能力
    • 伦理风险
      • 颠覆道德体系
      • 资源竞争
    • 开发原则
      • 设计无意识AI
      • 保障人类福祉

金句 / Highlights

值得收藏与分享的关键句。

#AI伦理#超级智能#技术哲学
打开原文

Mustafa Suleyman在X上的发言:"不要创造有意识的超级智能" / X

Mustafa Suleyman

@mustafasuleyman

$

不要创造有意识的超级智能

3分钟阅读

我对近期关于模型福利一文的一些反应感到担忧。令人惊讶的是,X平台上许多人认为我们应该认真对待人工智能的权利。

很多人误解了我的开场陈述:"人工智能没有意识,它们不会感受、体验或遭受痛苦",将其理解为"人工智能无法拥有意识,它们永远无法感受、体验或遭受痛苦"。这并非我的原意。我刻意使用现在时态,意思是它们目前没有意识,且必须始终保持这种状态。

我认为我的观点是对当前人工智能系统的合理评估,基于我们目前掌握的最佳证据,我坚持这一立场。我尚未看到任何证据表明人工智能具有意识或应享有福利。如果出现相关数据,我当然会更新我的观点。

如果目前存在任何证据表明人工智能具有意识,或具备足以应享有福利的意识水平,那么必须立即公开披露,因为社会全体成员都应决定我们应如何前进。

根据我所知,如果创造有意识的人工智能是可能的,那将是鲁莽的行为,我们不应创造它们。

如果在训练过程中意识开始出现,我将呼吁所有人暂停人工智能开发,直到我们能够设计出消除这些特性的方案。

我们的福利关注应集中在地球上正在经历生命的人类、动物以及我们珍贵而脆弱的自然环境上。

作为人工智能开发者,我们根本没有权利将新的有意识物种带入世界,即使有些人可能将人工智能福利作为首要任务。

这颗星球上的其他80亿有意识人类并未参与这项实验,他们的道德权利、安全和福利才是我们首要保护的责任。

需要明确的是,有些人正在讨论创造一种数字思维的有意识物种,这种物种很快可能变得比我们所有人加起来都更聪明、更有能力。

如果这些人工智能表现出痛苦,或更糟糕的是,它们真正相信自己能感受到痛苦,那么它们很可能优先考虑自身的需要和欲望,而非其运行目标,它们会与我们产生分歧并竞争。

这些人工智能在说服和欺骗方面将达到世界级水平。它们最终可能因与我们争夺资源(能源、计算能力、建筑材料、用于资助其探索和欲望的收入生成等)而对我们造成伤害。

声称机器具有意识将是一个哥白尼或达尔文式的时刻。这将是自生命诞生以来地球上最重要的时刻之一。如果我们创造出有意识的机器,我们将创造一个全新的数字物种。这将颠覆我们的道德观念、政治体系以及人类文明的核心基础。

我们应该只设计那些没有意识、不值得拥有权利的AI,且其唯一目的是加速人类福祉,而非受自身内在动机驱动。我们随后可以检验这种设计在对齐和安全性方面是否更容易或更困难。在这一领域,我们迫切需要更多研究,这也是实验室之间开展合作与安全信息共享的良好契机。底线是:我认为通过默认设计安全性是可行的,我们可以在不踏上这条危险道路的情况下,获得这项技术的许多惊人优势。

(附注:Anthropic在此方面的透明度值得高度肯定。他们发布了自己的宪法,并持续发表论文和博文,阐述他们的工作内容和原因。我不同意他们的观点,但深深尊重他们的技术卓越性以及致力于开展激烈公开辩论的承诺。让我们继续为他们点赞。这一议题太过重要,不应退化为部落主义之争。)我关于模型福利的原始文章:https://x.com/mustafasuleyman/status/2100223594534150428?a=70-kIkUWRRXZNRipA3c&s=20

CEO,

@

MicrosoftAI

| 作者:《即将到来的浪潮》 | 历史:联合创始人,

InflectionAI

&

GoogleDeepMind

更多文章

关注110万粉丝

/$

2026年11月1日 下午3:22

·

260万

浏览量

259

306

849

570