Wired AI

A New AI Tool From Google DeepMind Proved the Signal Protocol Is Secure

8.5内容质量
A New AI Tool From Google DeepMind Proved the Signal Protocol Is Secure

TL;DR · AI 摘要

DeepMind用AI工具AlphaProof Code验证了Signal协议安全性,标志着AI在形式化验证领域的重要突破。

核心要点

  • AlphaProof Code可在4周内验证Signal协议核心加密功能
  • 验证未发现新漏洞但仅覆盖协议部分模块
  • AI形式化验证仍需解决大规模代码验证难题

结构提纲

按章节快速跳转。

  1. DeepMind使用AI验证Signal协议安全性的里程碑事件

  2. AlphaProof Code框架实现4周完成协议验证

  3. 未发现新漏洞但仅覆盖协议部分模块

  4. AI验证面临大规模代码扩展性难题

  5. 推动AI与形式化验证结合的新范式

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI形式化验证Signal协议
    • 验证工具
      • AlphaProof Code
    • 验证结果
      • 无新漏洞发现
      • 部分模块覆盖
    • 技术挑战
      • 大规模代码验证难题

金句 / Highlights

值得收藏与分享的关键句。

#AI#形式化验证#加密安全#DeepMind
打开原文

Google DeepMind推出新AI工具证明Signal协议安全性 | WIRED

Lily Hay Newman

安全

2026年11月10日 00:01

Google DeepMind推出新AI工具证明Signal协议安全性

DeepMind研究人员成功对广泛使用的加密协议进行了形式化验证,证明其按预期运行。他们的长期目标?对“全球所有软件”执行相同验证。

图片插图:Jobanny Cabrera;Getty Images

保存此故事

Google DeepMind研究人员利用智能体AI从数学上证明了Signal协议多项关键密码学保证的正确性——这对广泛使用的密码学和AI领域本身都是里程碑式的进展。

这项工作仅用四周时间完成,作为概念验证项目,其意义体现在两个方面。一方面,它为Signal应用、Google Messages和WhatsApp等平台上保护全球大量通信的加密技术提供了进一步的独立验证。另一方面,它展示了Google DeepMind使用名为AlphaProof Code的新AI框架进行形式化验证的能力。

更广泛地说,AI辅助的形式化验证正受到关注,但其在大规模应用中的实际效果和对大量代码的安全保障能力仍有待观察。形式化验证的支持者长期以来将其视为软件安全领域的“圣杯”,因为它利用数学方法验证软件是否按预期运行——换句话说,确保其没有关键性漏洞。

在AI时代之前,人们需要耗费大量时间描述希望验证的软件特性,将这些描述转化为公式,然后开发证明过程。智能体AI可以显著缩短后半段工作的时间,使DeepMind对Signal协议的分析成为可能。但即使如此,这项分析的范围也存在局限——例如,它并未对整个Signal移动应用进行形式化验证——DeepMind研究人员强调,他们的发现只是更大进程中的一个里程碑。

“我们对这一成果非常兴奋,但要将这种验证扩展到全球所有软件还有很长的路要走,我们希望实现这一目标,”DeepMind研究科学家Swarat Chaudhuri告诉WIRED。

DeepMind的分析在其研究的Signal协议部分未发现任何新漏洞,但当研究人员使用AlphaProof Code分析包含已知且长期修复的漏洞的旧版Signal时,该工具正确识别了这些漏洞,并显示该协议无法通过形式化验证。研究人员表示将公开他们为Signal协议分析开发的规范和证明,以帮助其他形式化验证工作。

尽管项目速度令人瞩目,但DeepMind研究人员指出,他们之所以能取得一定进展,部分原因在于Signal基金会此前进行的一些形式化验证工作。

“此前的形式化验证主要集中在代码的较小部分,而Google DeepMind的方法实现了显著扩展,”Signal首席技术官Ehren Kret在声明中表示。“随着AI驱动的安全威胁增长,严格验证Signal协议的实现,使我们对代码的隐私保障有了更大的信心。”

对于在高风险场景中使用的关键服务,能够对每个代码库和整个软件供应链进行形式验证将是一个理想的愿景。“如果你现在能够验证这些实现的正确性,那么你就可以高枕无忧了,”Google Cloud首席科学家兼DeepMind研究副总裁Pushmeet Kohli表示。“你可以想象银行,想象所有那些依赖保障措施并担心可能引发问题的bug的公司,现在可以说‘我能够证明这些属性’。”

然而,科技行业面临的开放性问题是:AI自动化形式验证是否真的能够扩展应用——以及是否能在可接受的成本下实现扩展。DeepMind将Signal分析作为研究项目免费进行,而Google拒绝承担分析成本。该公司也拒绝评论是否计划推出商业形式验证产品或服务。

研究人员表示,他们的一些关键进展在于开发出一种“人机协作流程”,如Chaudhuri所说,这种流程允许代理在几乎所有阶段贡献并自我修正,同时在关键节点仍寻求人工输入和审查。“我们不希望出现这种AI自行设定目标并生成证明、基本上进行自写测试的‘氛围世界’,”Chaudhuri表示。“中间存在一个平衡点。”