MIT Technology Review

Nancy Pelosi’s replacement is ready to regulate AI

6.5内容质量

TL;DR · AI 摘要

美国国会新议员Scott Wiener将推动AI监管立法,其过往法案影响联邦政策方向,但技术细节不足。

核心要点

  • Wiener推动的SB 1047法案被加州州长否决,但SB 53法案已签署生效。
  • Public First Action向其竞选提供300万美元资金,引发利益冲突质疑。
  • Wiener担忧Anthropic的递归自我改进技术可能失控,呼吁加速立法进程。

结构提纲

按章节快速跳转。

  1. 介绍Scott Wiener当选后将主导AI监管立法的背景。

  2. 详细说明SB 1047和SB 53法案的制定与实施过程。

  3. 分析递归自我改进AI可能带来的失控风险。

  4. 探讨Public First Action资助引发的争议。

  5. 预测Wiener在国会推动AI监管的可能路径。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI监管立法进程
    • 关键人物
      • Scott Wiener
      • Gavin Newsom
    • 核心法案
      • SB 1047
      • SB 53
    • 技术风险
      • 递归自我改进

金句 / Highlights

值得收藏与分享的关键句。

#AI监管#政治#立法#Anthropic
打开原文

纳迪亚·佩洛西的继任者已准备监管人工智能 | MIT技术评论

人工智能

纳迪亚·佩洛西的继任者已准备监管人工智能

斯科特·维纳将人工智能监管作为其政治生涯的核心。现在,他即将进入国会。

作者:

  • 格蕾丝·哈克林斯 档案页面

2026年11月9日

阿伦·施瓦茨/盖蒂图片社

执行摘要

作为加州参议员,斯科特·维纳起草了旨在遏制先进人工智能风险的立法。现在,在赢得前众议院议长纳迪亚·佩洛西空缺的旧金山席位后,他可能在制定联邦人工智能政策方面发挥关键作用。

我在周五与维纳进行了交谈,这仅在他被宣布为胜选者数小时后。但他已经开始思考人工智能风险。前一天,人工智能非营利组织METR发布了一份报告,被广泛解读为证据表明Anthropic实现了递归自我改进——一种人工智能对自身进步产生实质性贡献,且人工智能进步可能失控的现象。

“这非常令人担忧,”维纳表示,引用该报告作为证据,说明我们正迅速耗尽监管人工智能的时间。“我原本希望国会能在今年年底前采取果断行动,”他说,“但情况似乎并非如此。”

近年来,维纳越来越关注人工智能,并将人工智能安全运动的许多担忧视为己任:在我们20分钟的对话中,他多次使用“递归自我改进”这一短语。“我们需要放慢这一进程,”他说,“因为进展非常迅速,我们可能会在睡梦中陷入灾难。”

维纳已经在人工智能政策方面产生了实际影响。2024年他起草的SB 1047法案原本将成为美国首部前沿人工智能立法,但在加州州长加文·纽森否决后未能实现;随后他推动了SB 53法案,这是一项较为宽松的法案,最终被纽森签署。这两项法案都启发了联邦立法提案。

维纳的国会竞选活动从Public First Action获得了超过300万美元的资金,这是一家支持人工智能监管的非营利组织,获得了Anthropic的大量资金。这一贡献导致反对者批评他与人工智能行业过于接近,但维纳表示事实恰恰相反。

在我们采访后发送的一条信息中,他表示:“Public First支持我,因为我首先是提出人工智能监管的国会议员,也是首个通过并实施该监管的议员。”他指出针对Public First支持的攻击“令人震惊地虚伪——实际上攻击了一位在大科技公司反对下真正实施人工智能监管的候选人,并错误地声称该候选人与大科技公司关系过于密切。”

维纳表示,如果国会成立人工智能特别委员会(民主党自9月以来一直在讨论此事),他将很乐意担任成员。他对国会中许多政策构想充满热情。“我认为拥有一个强大、有权力且灵活的联邦监管机构非常重要,”他表示,并指出来自加州的民主党众议员Ro Khanna提出了相关立法提案,以建立这样的监管机构。

他同时强调了举报人保护措施、测试与审计要求以及强制关闭功能的必要性,并希望国会能利用其监督权力对AI实验室进行问责。“这关系到人类的未来,我们希望确保公众有发言权并了解真实情况,”他表示。

作为长期担任州立法者的他,反对联邦层面全面取代州AI法律的提案,而一些联邦立法草案正试图强制推行这一做法。“正如布兰戴斯所说,各州是‘实验室’,”他指出,“你希望各州能够以国会有时无法做到的灵活方式持续创新。”

维纳表示,最重要的是希望国会通过具有实质约束力的政策。“国会采取行动时,必须真正有意义且切合时宜,”他说。这意味着要认真对待AI灾难的可能性,他使用AI安全专家通常采用的语言对此进行了阐述。“我们现在正处于一个极其危险的时刻,因为失去对AI控制的风险极高,”他告诉我,“我们需要应对递归自我改进问题。一旦进入这个领域,这确实可能成为完全失控的配方。”

在对抗灾难性AI风险的斗争中,维纳将获得一些盟友。例如,参议员伯尼·桑德斯曾与AI安全运动中最具影响力的多位人物会面,并多次谈论AI与存在风险问题。但维纳所处的湾区视角——强调通用人工智能(AGI)风险——与全国范围内以反对数据中心为重心的AI舆论之间仍存在巨大差距。周二有40个州在41项反对数据中心的公投提案中获得通过,这似乎对维纳和其他支持AI监管的人士是利好消息。但维纳表示,他认为这场运动更多与地方性关切相关,而非更宏观的AI风险问题。

“那些真正反对AI发展方向的人——这是他们能够实际采取行动的领域,”他表示,“但数据中心的抗议——在我看来,更多是人们不满这种设施可能出现在自己的社区,给居民带来各种影响,比如推高电费和消耗水资源。从我观察到的情况来看,这才是大多数人更关心的问题。”

鉴于国会监管科技行业糟糕的过往记录,维纳表示自己对国会控制AI的能力仅持“谨慎乐观”态度。他同时担心立法能否通过总统唐纳德·特朗普的否决,特朗普在9月曾将灾难性AI风险的担忧称为“骗局”,并表现出不愿与中国合作的鲜明态度,而维纳认为与中国合作是防止AI最坏后果的关键。

但他表示,特朗普的不可预测性也带来了一定程度的希望,尽管这种希望充满不确定性。“到目前为止,我们看到的是一些令人担忧的事情,但还没有彻底的灾难,”维纳说,“我希望不需要灾难发生总统才会采取行动。我希望如果真需要灾难推动总统行动——正如我所说,我希望不会如此——但如果真的需要,我也希望灾难尽可能小。”

深度解析

人工智能

别被误导了——大语言模型并不具备推理能力

自AlphaGo与围棋冠军李世石对弈以来已过去十年,如今的AI仍未掌握当年取得胜利所依赖的核心机制。

  • Thore Graepel 档案页面

“我们一直看错了”:颠覆AI世界的爆炸性主张

与尼克·卡马拉塔(Nick Cammarata)的独家专访,这位研究者撰写的26000字病毒式博客文章让AI安全研究者们欢欣鼓舞。

  • Will Douglas Heaven 档案页面

别被这个AI热潮所迷惑

关于AGI和新功能的夸张声称在受到审视时很快就会崩溃。

  • Timnit Gebru 档案页面
  • Emily M. Bender 档案页面

代理型网络时代已经到来

随着个人AI助手的兴起,互联网不再只是为人服务。

保持联系

插图由Rose Wong绘制

获取MIT技术评论的最新动态

发现特别优惠、头条新闻、即将举办的活动等更多信息。