T
traeai
登录
返回首页
Anthropic News

扩大 Project Glasswing 计划

8.5Score
扩大 Project Glasswing 计划

TL;DR · AI 摘要

Anthropic 将 Project Glasswing 合作伙伴从50家扩展至约150家,覆盖电力、医疗等关键行业,已发现超1万处高危漏洞。

核心要点

  • Project Glasswing 合作伙伴已发现超过10,000个高或严重安全漏洞,涵盖电力、医疗、通信等多个关键行业。
  • Anthropic 计划将支持重心从漏洞发现转向披露、修复和部署修补后的软件,以适应AI驱动的网络安全新现实。
  • Claude Security 产品基于 Claude Opus 4.8 等最新模型,可扫描代码并建议补丁,面向公众开放。

结构提纲

按章节快速跳转。

  1. Anthropic 将 Project Glasswing 合作伙伴从50家扩展至约150家,覆盖更多国家和行业。

  2. 新伙伴多为全球关键基础设施供应商,其系统被攻击可能导致影响超亿人的灾难性后果。

  3. Claude Mythos Preview 已帮助合作伙伴发现超1万处高危漏洞,并用于自动编写补丁。

  4. Anthropic 计划推动行业从漏洞发现转向快速修复与部署,构建AI时代的安全基础设施。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Project Glasswing 扩展计划
    • 合作规模扩大
      • 新增约150家组织
    • 行业覆盖
      • 电力、医疗、通信、硬件等
    • 技术应用
      • Claude Mythos Preview 扫描漏洞
      • 自动生成补丁

金句 / Highlights

值得收藏与分享的关键句。

  • Project Glasswing 合作伙伴已发现超过10,000个高或严重安全漏洞,涵盖电力、医疗、通信等多个关键行业。

    第2段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • Anthropic 计划将支持重心从漏洞发现转向披露、修复和部署修补后的软件,以适应AI驱动的网络安全新现实。

    第3段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • Claude Security 产品基于 Claude Opus 4.8 等最新模型,可扫描代码并建议补丁,面向公众开放。

    第4段

    ⬇︎ 下载 PNG𝕏 分享到 X
#AI安全#Claude#Anthropic
打开原文

Project Glasswing 是我们的一项协作计划,旨在保障全球最重要的软件安全。今年四月初,我们宣布约有 50 家初始合作伙伴获得了 Claude Mythos Preview 的访问权限,自那以来,他们已将该模型部署到自己的代码库中以扫描潜在漏洞。我们此前曾描述过,这些合作伙伴迄今已发现超过 10,000 个高危或严重级别的安全缺陷。

我们现在正在扩展 Project Glasswing。经过数周与我们的 Project Glasswing 合作伙伴、网络安全行业、开源软件维护者以及美国政府的紧密合作后,我们将该计划扩展至约 150 家新组织。每一家组织在获得访问权限前都需满足我们的安全要求。

这一新群体中的组织分布于 15 多个国家,其中大多数为众多其他机构提供关键基础设施。(未来,我们计划进一步扩大地理覆盖范围。)该群体涵盖我们在初期参与者中代表性不足的多个行业,例如电力、水务、医疗保健、通信和硬件领域。许多新合作伙伴是供应商——即那些维护被全球大量其他组织(包括政府)依赖的代码库的企业或非营利机构。

所有合作伙伴的共同点在于:若其代码库遭到成功攻击,后果将是灾难性的。对于大多数合作伙伴,我们估计重大攻击可能影响超过一亿人,并对全球及国家安全产生重要影响。

此次扩展是我们长期目标的下一步:让 AI 帮助实现所有软件的安全性提升,并协助行业适应 AI 如何改变网络安全诸多核心假设的方式。

Project Glasswing 的角色

Project Glasswing 及 Claude Mythos Preview 的能力引发了广泛讨论——不仅在软件行业内,也在政府层面——探讨 AI 如何重塑网络安全格局。这些讨论指导了我们如何扩展该项目,也塑造了我们对 Project Glasswing 本身使命的理解。

具备强大网络能力且廉价高效的 AI 模型即将问世。我们希望 Project Glasswing 能促使各类机构建立符合这一现实的操作规范。

Mythos Preview 继续延续我们长期以来一直发出的警告趋势:在未来 6 到 12 个月内,预计许多其他 AI 公司也将推出 Mythos 级别的模型,且可能在缺乏防止滥用机制的情况下发布。在那样的世界里,网络攻击将更加频繁,形式也更难以预测。因此,网络安全防御方必须迅速调整以跟上步伐

我们认为自身角色具有双重意义:第一,通过安全地向业界广泛提供更优模型、工具和通用基础设施,帮助软件行业适应变化;第二,逐步转变我们提供的支持方式,从单纯发现漏洞,转向披露、修复并部署修补后的软件。接下来我们将逐一探讨这两方面。

支持网络安全防御者

迄今为止,企业、非营利组织、维护者和研究人员已迅速行动。在 Project Glasswing 开始后的数周内,每个成员均已大规模使用 Mythos Preview,与其他合作伙伴共享信息和最佳实践,并与第三方合作对模型发现的问题进行优先级排序。这些组织在适应新工具方面的做法,应当并在可复制的基础上推广至数百万面临网络攻击风险的组织和开发者。

为此,我们最近发布了Claude Security 产品,该产品利用我们最新的公开前沿模型(如 Claude Opus 4.8),扫描代码库并建议补丁。我们还将在请求下,向值得信赖的安全团队提供我们开发的工具,以帮助 Project Glasswing 合作伙伴更快发现漏洞。

我们的长远目标是进一步支持行业创建面向强大网络模型时代的全新倡议、标准和基础设施。

加速补丁修复及其他安全工作

正如我们此前所讨论,当前网络安全领域的瓶颈在于验证、披露和修补 Mythos 级别模型所能揭示的海量漏洞。

Mythos Preview 本身即可发挥作用。目前,许多 Project Glasswing 合作伙伴已利用该模型编写补丁,以及用于发布前检查,以防止漏洞首次出现。类似 Mythos Preview 的模型还可用于渗透测试(模拟网络攻击以识别漏洞可能被利用的方式)、自动化威胁检测与响应,以及用内存安全语言重构遗留代码库等众多防御任务。

我们正与第三方展开讨论,探讨如何大幅扩展对开源软件漏洞的审查与修补能力。同时,我们也在研究如何与开源维护者分享漏洞披露的最佳实践与思路,目的是使这些报告更容易被分类处理并采取行动。

前路何在

为应对即将到来的挑战规模,数十万组织、研究人员和维护者很可能需要访问最先进的网络能力和工具。

我们正以最快的速度安全地推出 Mythos 级能力的公开访问。为此,我们需要高度稳健的安全保障措施,以防止模型的网络能力被滥用——这些保障措施是我们(据我们所知,所有其他 AI 开发者)尚未开发出来的。由于网络安全既可用于有益目的,也可用于破坏性用途,因此制定既强大又足够精确的安全保障措施是一项重大挑战。

在此期间,我们计划进一步扩大“玻璃翼计划”——优先支持更多关键基础设施提供商、重要开源软件的维护者以及安全测试人员。我们未来扩展的范围也将涵盖美国和海外的组织,正如本次扩展一样。同时,我们还计划扩大“网络验证计划”,该计划将向更多组织授予 Mythos 级能力,以执行特定的网络防御任务。

未来,前沿模型的发布将变得越来越具有高风险性。各领域的功能将继续提升,包括许多可能同时赋能攻击者与防御者的领域(如网络安全)。这不会是我们最后一次面对此类挑战。但“玻璃翼计划”已为我们提供了大量应对模型跨越重要能力阈值时如何响应的经验。如果我们成功,我们希望为防御方创造持久的优势。

相关内容

Anthropic 向 SEC 秘密提交 S-1 草案

Anthropic 已秘密向美国证券交易委员会提交了 S-1 注册声明草案。

了解更多

Anthropic 获得 650 亿美元估值下的 H 轮融资,金额达 650 亿美元

Anthropic 在由 Altimeter Capital、Dragoneer、Greenoaks 和 Sequoia Capital 领投下完成了 650 亿美元的 H 轮融资。

了解更多

推出 Claude Opus 4.8

这是 Opus 系列模型的升级版,在编码、代理任务和专业工作方面表现更强,并具备处理长时间任务的一致性。

了解更多

AI 可能会生成不准确的信息,请核实重要内容