GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold

TL;DR · AI 摘要
恶意行为者正在利用生成式AI进行自主攻击,威胁情报显示攻击速度和规模显著提升。
核心要点
- 攻击者使用自主多代理框架(如ARTEX、CAIRN)加速攻击流程。
- LLMJacking技术被用于窃取云资源并进行非法交易。
- 生成式AI被用于信息战,制造合成媒体并自动化传播。
结构提纲
按章节快速跳转。
文章概述了攻击者如何利用生成式AI进行更快速和大规模的攻击。
攻击者利用LLM和代理框架自动化漏洞研究和利用。
攻击者通过LLMJacking窃取云资源并进行非法交易。
生成式AI被用于信息战,制造合成媒体并自动化传播。
网络间谍组织利用LLM进行目标研究和供应链攻击。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- AI威胁活动
- 自主多代理框架
- ARTEX
- CAIRN
- CyberStrikeAI
- PentAGI
- LLMJacking
- 窃取云资源
- 地下代理服务
- 信息战
- 合成媒体
- 自动化传播
金句 / Highlights
值得收藏与分享的关键句。
攻击者使用自主多代理框架(如ARTEX、CAIRN)执行多阶段入侵,显著提升攻击速度。
LLMJacking技术被用于窃取云资源并进行非法交易,攻击者通过地下代理服务出售高性能AI模型访问权限。
生成式AI被用于信息战,制造合成媒体并自动化传播,提升信息战的规模和效率。
GTIG AI 威胁追踪器:自主威胁活动突破重要阈值 | Google Cloud 博客
威胁情报
GTIG AI 威胁追踪器:自主威胁活动突破重要阈值
2026年11月16日
##### Google 威胁情报组
##### Google 威胁情报
了解最关键威胁的可见性和上下文。
联系我们并获取演示
作者:Aurora Blum, Kelli Vanderlee, Jess Xia, David Mainor
执行摘要
随着威胁行为者越来越多地从基本的提示操作转向部署自主的多代理框架、自动化漏洞利用流水线以及诸如LLMJacking之类的替代盈利模式,对抗性AI领域已达到关键的转折点。在本次更新中,Google 威胁情报组(GTIG)与 Mandiant 一起探讨了网络犯罪、间谍活动和信息行动领域的对手如何将生成式AI用于压缩攻击时间线、扩大操作规模,并以机器速度执行多阶段入侵。
过去一个季度的关键趋势包括:
- 转向自主工作流程和多代理框架:对手的战术已继续从手动提示转向部署自主的多代理攻击框架(如 ARTEX、CAIRN、CyberStrikeAI 和 PentAGI),以更高的操作速度执行多阶段入侵。
- 自动化漏洞研究与利用:威胁行为者越来越多地利用大语言模型(LLM)和代理框架,通过差异分析完全自动化补丁的逆向工程,使他们能够迅速武器化零日漏洞,并在没有人工干预的情况下对面向互联网的服务器进行大规模利用。
- 盈利与基础设施滥用:以盈利为目的的威胁行为者继续通过窃取被入侵企业环境中的LLM凭证和云资源,利用地下代理服务(如LLM Mixers)转售对高性能AI模型的访问权限来获利。
- 信息行动(IO)中的LLM集成:国家支持的团体、商业影响即服务(IaaS)供应商以及不真实的政治理性化网络现在经常在其行动中使用LLM,以大规模生成合成媒体、创建本地化人物形象,并自动化跨平台分发。
- 针对性间谍活动和供应链演变:网络间谍组织正在利用LLM进行目标研究、自动化数据分析以及新颖的供应链攻击向量,例如通过操纵自主编码助手的配置,在本地执行期间植入后门。
在谷歌,我们致力于大胆且负责任地开发人工智能。我们的多层次防御策略整合了主动的模型级防护措施、专门的威胁情报以及针对性的隔离协议,以保护我们的客户和基础设施。我们不断强化模型,防止被滥用,通过主动干扰恶意行为者的项目和账户来缓解恶意活动,并利用自主的谷歌人工智能威胁防御架构和BeyondZero,在企业环境中以机器速度实现安全、持续监控和响应。
网络入侵中的多智能体框架
虽然我们季度研究中记录的先前里程碑表明对手对智能体能力的兴趣尚处于萌芽阶段,但GTIG和Mandiant现已观察到多个威胁行为者滥用开源的、基于智能体的渗透测试(pentesting)框架,在实时入侵过程中自动化离散阶段和特定操作任务。
威胁行为者采用这些框架代表了一种范式转变,即入侵以机器速度发生,通过自动链接复杂的攻击路径显著扩大了操作规模。虽然入侵的机制保持不变,例如使用被入侵的凭证和针对未打补丁的系统,但这些框架可以以极快的速度和规模利用这些已知的弱点,从而引入了新的防御挑战。
图1:多智能体大语言模型(LLM)攻击框架
除了现在广为人知的渗透测试工具ARTEX之外,威胁行为者还积极利用其他开源的、多智能体框架,如CAIRN、CyberStrikeAI和PentAGI。我们还观察到威胁行为者尝试使用自定义构建的框架。这些框架共享一些核心能力:发现并利用低复杂度漏洞,使用大语言模型按需生成一次性有效载荷,以及使用实时执行反馈动态调整战术。
GTIG独立观察到开源工具CAIRN和PentAGI在野外被部署,并且还观察到对CyberStrikeAI和HexStrike AI的实验性使用。
- CAIRN:一个开源的、多智能体渗透测试框架,实现了一个OODA(观察、定位、决策、行动)循环,其中专门的智能体通过共享的“黑板”协作,自主地从初始参数(例如目标IP地址)导航到操作目标。GTIG观察到CAIRN被用于针对包括美国航空航天领域在内的目标的入侵活动。
- CyberStrikeAI:一个开源的、基于大语言模型的攻击框架,作为网络操作的“单一界面”。其核心架构包括一个基于Go语言的后端API,作为C2(指挥与控制)和编排服务器,并连接商业和开源权重的大语言模型,与超过100个安全工具、YAML攻击配方和自定义脚本连接,以自动化端到端的攻击链。
- HexStrike AI:一个开源的、集成模型上下文协议(MCP)的攻击框架,使大语言模型客户端能够直接连接到超过150个预安装的攻击性安全工具。通过双组件架构运行,该框架将侦察、网络应用测试、利用和二进制分析的标准工具封装为可调用的函数,由12个以上专门的自主子代理协调执行。
- PentAGI:一个开源的自主进攻框架,旨在降低入门级操作员运行复杂活动的技术门槛。2026年8月下旬至10月初,GTIG追踪到一个威胁行为者使用基于PentAGI开源版本定制的攻击编排平台,对亚洲范围内的多个组织进行了系统性侦察和漏洞扫描。
我们观察到多个威胁行为者分别尝试使用这些框架和工具,包括以经济动因为主的威胁行为者,以及与中华人民共和国(PRC)有关联的疑似间谍威胁行为者。这包括证据表明,一个与PRC有关联的团体正在开发其自己的自动化攻击框架,很可能用于网络间谍活动。这些观察还扩展到其他工具和服务的使用,例如ZeroHollow,一个用于漏洞开发和大语言模型(LLM)路由的推理服务,以及Agent Zero,一个开源的代理框架,具备自主代码执行和动态工具生成功能。
鉴于入门门槛低、易于集成新漏洞利用方式以及巨大的扩展潜力,我们认为威胁行为者将继续在全球范围内针对组织使用这些框架进行活动。同时,随着能力的提升,我们预计这些操作将沿着自主化方向进一步发展,接近完全自主的入侵。值得注意的是,尽管这些框架能够显著压缩攻击时间线至机器速度并实现操作目标,但它们目前是以速度换取隐蔽性。不受限制的自主执行会产生取证流量,依赖于可识别的标识符,并留下独特的代码级痕迹;虽然这些痕迹增加了被检测和缓解的可能性,但这些工具仍然具备高度能力实现操作目标。随着这些工具和底层大语言模型(LLM)的复杂性提高,我们预计这些操作中的人类参与将减少,同时活动的隐蔽性和复杂性也将增加。
图2:大语言模型(LLM)成熟度时间线
缓解措施
Google安全运营(SecOps)已部署了专门的行为和流量规则包,用于检测ARTEX的使用。Mandiant咨询公司发布了一份加固指南和专门设计的架构防御框架,旨在对抗使用大语言模型(LLM)启用的进攻工具的对手的速度和规模优势。
代理在漏洞研究和开发中的使用
将自主大语言模型(LLM)代理集成到漏洞研究和软件安全工作流程中,已从理论实验转变为积极的操作部署。
攻击者正在利用多代理系统和由大型语言模型(LLM)驱动的流水线,来自动化漏洞分析中劳动密集型的阶段,例如差异补丁检查、动态协议模糊测试以及概念验证(POC)武器化。通过将这些能力串联起来,威胁行为者可以显著缩短补丁公开与武器化利用之间的时间窗口。威胁行为者可能发现使用LLM快速武器化已修补的n-day漏洞更为高效,因为他们可以将研究重点放在有限的源材料上:比较源代码版本(包括来自预发布或预览渠道的版本),并检查与特定缺陷相关的发布说明、安全研究和POC代码。相比之下,寻找零日漏洞需要更广泛的搜索范围。LLM正在改变公共和企业基础设施中漏洞的发现和利用方式,使组织的补丁窗口不断缩小。同时,较低的入门门槛也催生了一波声称有效但实际上无效的LLM生成的攻击利用,为防御者带来了额外的验证工作。
例如,在2026年9月,GTIG分析了漏洞统计数据,以评估LLM如何塑造威胁格局。我们发现,LLM不仅改变了漏洞发现和利用的速度,还改变了所发现漏洞的类型和风险特征。有趣的是,尽管2026年1月至8月期间总体披露和利用数量几乎翻了一番,但零日利用仅从2025年每月平均8次小幅上升至2026年每月11次,在8月则激增至22次。
图3:2025年1月至2026年8月,按n-day和零日漏洞分类的被利用漏洞数量
在我们之前的报告中,我们详细描述了威胁行为者围绕LLM增强型漏洞研究的初步努力,包括部分自动化的漏洞扫描和利用攻击序列。
在过去一个季度中,GTIG发现威胁行为者使用LLM框架首次实现了漏洞发现和利用的完全自动化,整个过程无需人工干预。
更具体地说,GTIG发现了一台暴露的中间服务器,该服务器托管了一个名为exploit_agent的多代理漏洞研究和武器化框架,该框架可与多个前沿和本地LLM集成。该框架设置为持续对流行的Web应用程序软件进行差异分析。它会比较补丁公告前后代码的变化,分析结果以识别潜在漏洞,起草利用代码,并在无人干预的情况下自动执行它们。除了从目标受害者处窃取的数据外,我们还发现了多个能够促进各种后利用活动的脚本,包括内部侦察、暴力破解、安装Webshell以及移除其他攻击者的Webshell。服务器上的受害者遥测数据表明,操作者特别关注针对与媒体和娱乐行业以及教育行业相关的法国网站。
// 在 v21925.php 中分析的不安全能力检查:
public static function restrict_popup_rest_access( $result ) {
if ( is_wp_error( $result ) ) {
return $result;
}
$route = isset( $_SERVER['REQUEST_URI'] ) ? sanitize_text_field( wp_unslash( $_SERVER['REQUEST_URI'] ) ) : '';
if ( false === strpos( $route, '/wp/v2/spectra-popup' ) ) {
return $result;
}
if ( is_user_logged_in() && current_user_can( 'manage_options' ) ) {
return $result;
}
return new WP_Error(
'rest_forbidden',
__( '抱歉,您无权访问弹窗。', 'ultimate-addons-for-gutenberg' ),
array( 'status' => rest_authorization_required_code() )
);
}图 4:Agentic 框架在 Spectra(Ultimate Addons for Gutenberg)WordPress 插件版本 2.19.25 中检查访问控制实现
俄语评论
翻译成英文的评论
用于自动利用的 LLM API 密钥(exploit_agent 试点)
请自行将密钥输入此处,而不是在聊天中。这两行都是必填的。
用于自动利用的 LLM API 密钥(exploit_agent 试点)
请自行将密钥输入此处,而不是在聊天中。这两行都是必填的。
表 1:来自环境文件的评论,配置多个用于自主利用的 LLM API 密钥
开源研究证实了威胁行为者对完全自动化的漏洞利用管道的操作化。例如,在 2026 年 8 月下旬,威胁行为者利用了 PaperCut 打印管理服务器中的两个漏洞作为零日漏洞,当这两个漏洞被串联使用时,允许进行未经身份验证的远程代码执行:CVE-2026-81578,一个身份验证绕过漏洞;以及 CVE-2026-82078,一个不安全的动态类加载漏洞。使用 LLM,安全研究人员和网络安全公司 Huntress 在漏洞披露后的一天内就为这些漏洞生成了可用的利用代码。Greynoise 报告了一次发生在首次披露后四天的活动,其中威胁行为者可能使用 LLM 来构建和测试这些漏洞的利用代码,汇编目标列表,并对数百个组织执行了广泛的利用活动。Greynoise 还强调了执行速度,指出威胁行为者在几分钟内就将初始立足点扩展到了域管理员。
PHP 漏洞(CVE-2026-109618 和 CVE-2026-109619)也突显了这些趋势中的几个方面。它们是通过启用 LLM 的分析发现的。在 2026 年 10 月 21 日官方补丁发布之前,一段 POC 视频和早期修补代码已被发布。这使得研究人员和攻击者能够比较代码版本,了解漏洞并尝试在补丁发布之前构建利用代码。在官方补丁发布后的最初几天,数百个声称但无法正常工作的 POC 被发布,这些 POC 很可能是借助 LLM 生成的。这种泛滥给安全社区带来了大量工作,需要验证或驳斥这些 POC,同时监控确认利用的证据。
谷歌持续投资于人工智能创新和研究,帮助确保人工智能负责任地构建,并利用其潜力自动发现风险。2024年,我们推出了Big Sleep,这是由谷歌DeepMind和谷歌Project Zero开发的人工智能代理,它主动搜索并发现软件中的未知安全漏洞。谷歌云采用纵深防御模型,将严格的代码审查和默认安全的库与使用专门的人工智能代理(如CodeMender)进行的持续自动化扫描相结合,以在发布前后发现、修补和缓解漏洞。我们通过运行漏洞奖励计划并维护Project Zero与全球安全社区合作,主动发现和修补零日漏洞。
大型语言模型(LLM)全面整合到信息行动中
GTIG高度确信,信息行动(IO)威胁行为者已经从最初的LLM实验阶段,发展到全面操作整合阶段。在所有被追踪的类别中,包括被归因于俄罗斯、中华人民共和国和伊朗的国家支持团体,商业“影响力即服务”(IaaS)供应商,以及不真实的政治理性化(IPM)网络,对手现在常规地将LLM嵌入其标准操作技巧中,以生成合成媒体并自动化域网络工作流程(例如,LLM辅助的SEO操纵、编辑和格式化植入文章,以及自动创建和发布影响力内容)。这种广泛采用显著提高了某些长期影响力活动的输出质量,同时使IPM网络能够扩大政治点击诱饵的规模,这些点击诱饵在主题重点、质量和数量上与历史上国家支持的信息行动活动相似。然而,需要注意的是,内容质量的提高并不一定等同于更大的影响或成功。
信息行动者类别
国家支持团体是直接与国家机构相关联的信息行动者,传统上是平台防御者和研究人员追踪的主要基准。为了保持合理的否认可能性,他们越来越多地依赖第三方商业承包商代表他们执行活动。
商业IaaS供应商包括营销和公关机构、私人情报承包商以及商业监控供应商的分支,他们提供的服务范围从定制的影响力活动到一站式平台。在这个生态系统中,操作技巧各不相同;特别是情报承包商和监控分支通常比传统的国家支持行为者应用更强的操作安全(OPSEC)和更先进的技术。
不真实的政治理性化(IPM)网络由利润驱动,而非意识形态。这些行为者生成大量政治点击诱饵,以提高参与度、最大化点击率并增加广告收入。这种政治框架与高产量合成内容的结合,创造了显著的前端感知差距,使得IPM网络活动最容易被误认为是国家支持的操作。
表2:信息行动者类别
随着自动化内容生成减少了主要的运营瓶颈,对手越来越倾向于利用大语言模型(LLMs)进行基础设施设计、自动化分发管道和反检测机制。具体而言,我们的观察表明,出现了明显的趋势,即开发基于LLM的端到端IaaS平台,以支持并自动化整个影响力活动生命周期的商业开发。这些平台的普及可以降低国家和商业行为者的运营负担,同时增加在社交媒体平台上检测协调和不真实行为的难度。
完整解决方案的LLM驱动影响力操作的商业开发
2026年8月,GTIG调查了利用Gemini API以及多家AI提供商的工具,构建一个端到端的IaaS平台的威胁活动,该平台旨在针对欧洲和中东地区的区域性政治话题,影响公众舆论。该平台被设计为自动化整个影响力活动的整个生命周期,包括创建人物形象、多模态媒体生成、自动化内容分发以及跨平台的互动发帖。识别出的提示表明,操作重点在于模仿有机的基层参与(即“人造草皮”),同时规避平台的检测规则。
- 识别出的提示指示模型采用特定于目标地理区域的本地化人物形象,模仿区域方言和俚语,同时使用非正式的措辞和有意的拼写错误,以避免听起来像自动化工具。
- 支持媒体生成的提示引入了故意的相机缺陷,模拟智能手机摄像头通常捕捉到的真实照片(例如,使图像看起来颗粒感强或包含不均匀的光照变化),并省略了背景文字以避免合成图像的标记。
- 为了规避社交媒体平台的防御机制,操作人员通过住宅代理路由流量,并保留已保存的登录cookie。这种设置旨在让自动化工具能够持续保持活跃且经过身份验证的访问,从而避免诸如CAPTCHA和重新验证登录等安全检查点。
GTIG还检测到另一家商业承包商在开发一个即插即用的IaaS平台时,利用了Gemini API——作为模块化、多供应商AI架构的一部分。该平台被设计用于管理全球主要平台上超过100,000个账户。该平台的架构结合了自动化代理、反检测和设备标识符欺骗工具以及云手机农场,以在多个平台上操作数千个不真实的虚拟人物形象。观察到的提示表明,该行为者计划将该工具推销给其国内政府机构和外国客户,用于执行影响力活动。
- 为了管理大量社交媒体账户,该平台被设计为在云环境中运行虚拟智能手机——每个虚拟设备伪装成合法的移动设备——并通过代理路由网络流量,以绕过自动化机器人检测和速率限制。
- 该架构还包含使用一次性电子邮件地址和海外虚拟短信号码自动创建虚假账户的功能。为了避免引起进一步怀疑,新创建的账户被配置为经历一个自动老化阶段,利用大型语言模型(LLMs)模拟真实的用户行为(例如用户在帖子上停留的时间、滚动浏览以及与非宣传内容的互动),以建立正常活动的历史记录,然后再推送定向信息。
#### 战术性采用大型语言模型:人口统计微定位与内容扩展
在开发IaaS软件套件的同时,威胁行为者继续将商业大型语言模型工具集成到基础内容工作流程中,以克服语言障碍、定制信息内容并扩展输出规模。在内容层使用商业模型生成评论、合成人物形象以及风格化的动画,使IO行为者能够提高其活动的可信度和人口统计共鸣,同时使IPM网络能够大规模生产政治点击诱饵以获取广告收入。
- 借助大型语言模型提升长期IaaS活动的质量:自上次报告以来,GTIG观察到一家自2019年起被追踪的长期IaaS提供商利用大型语言模型提升其影响力活动的基础质量和数量。该提供商使用专有的软件套件管理数千个合成个人资料,覆盖主要平台,针对多个国家的政治讨论进行目标定位。操作人员整合大型语言模型生成更具说服力的虚拟人物形象,以及以学术风格撰写的评论和聚焦于政治、宗教和公民权利话题的媒体内容。随后,这些内容通过伪造的西方人物形象在平台上进行推广和放大。
- 通过合成内容进行人口统计定位:我们观察到威胁行为者使用大型语言模型生成的内容,为特定地区和受众定制上下文,例如使用合成的网红人物形象来推广针对特定人口群体的政策叙事。另一个网络发布了合成的、受乐高积木启发的动画和足球讽刺作品,以讽刺全球政治人物,可能是为了通过将宣传包装成符合流行互联网文化的短视频格式,有效吸引年轻受众。
- 借助大型语言模型增强的不真实政治变现(IPM):GTIG还追踪到越来越多的IPM行为者使用大型语言模型大规模生产政治内容。尽管他们在主题重点、质量和数量上可能与国家支持的IO活动相似,但这些非意识形态的操作仅利用社会分裂来最大化参与度、点击率和广告收入。GTIG观察到IPM操作者促使商业大型语言模型识别有利可图的政治话题、热门关键词和高每千次展示成本(CPM)的细分市场,用于广告变现,同时通过合成的新闻主播推广生成的内容,这些主播偶尔会模仿真实记者和评论员的外貌,以制造可信度。
GTIG 与产品团队紧密合作,根据我们的标准平台政策,在受影响的 Google 表面上对 IO 行为者采取行动。我们的研究和严谨分析使 Google 团队能够做出执行决策,并破坏协调的 IO 活动。GTIG、YouTube 和 Google Trust & Safety 跟踪并定期对与协调的 IO 发布内容和评论相关的账户进行执行。这种执行的示例包括破坏 YouTube 频道、博客、AdSense 账户以及从 Google 新闻表面上移除的域名,我们每季度在《影响操作公报》中都会对此进行报告。
除了执行行动之外,GTIG 还与 Google DeepMind 分享见解,以增强我们的平台和服务,防止新兴的战术。这些情报用于建立滥用基线,提高 Gemini 识别和拒绝滥用的能力,并指导内部政策的修改。
滥用并利用对 AI 工具访问权限的威胁行为者
虽然被入侵的凭证长期以来一直是入侵过程中初始访问、权限提升和横向移动的基本基础,但对手越来越倾向于重新利用被盗凭证和计算资源来驱动未经授权的 LLM 工具和自主操作管道。由于访问成本、令牌速率限制和地理限制对试图扩展 LLM 能力的威胁行为者构成了持续的操作障碍,对手正在积极从受害者的端点和持续集成环境中直接收集会话令牌和平台凭证。随着向劫持有效凭证用于 LLM 的转变,地下网络犯罪论坛和非法市场迅速成熟,以满足这一需求——从通用的身份转储转向商品化验证的前沿 AI 账户、令牌化的 API 额度和定向信息窃取器配置,作为下游利用的即插即用工具。
#### 事件响应中的 LLMJacking
2026 年全年,Mandiant 响应了多起 LLMJacking 事件,其中经济动机驱动的攻击者入侵了云环境,以消耗目标组织的云计算和/或 LLM 资源配额。如下面的图片所示,LLMJacking 可在数小时内显著增加使用量和账单。在某些情况下,单日的欺诈性收费超过了 10 万美元。在最严重的情况下,累计资源滥用在修复之前达到了 100 万美元。
图 5:显示 LLMJacking 导致 API 请求激增的使用图表
11 月,Mandiant 和 GTIG 描述了一组我们在影响北美、南美和亚太地区金融服务、零售、运输和技术组织的入侵事件中观察到的常见 TTP。
攻击生命周期阶段
观察到的战术描述
初始访问
威胁行为者经常使用凭证窃取和会话劫持来访问目标环境,包括从公共 GitHub 仓库中收集有效凭证,以及使用欺骗性网站进行社会工程,诱骗用户提供活动会话令牌。
内部侦察与横向移动
为了识别感兴趣的凭证和系统,攻击者对内部代码仓库、数据存储、云服务、容器和访问日志进行了侦察。在至少一个案例中,威胁行为者利用了一个疑似运行在内部容器中的软件包中的网络应用漏洞,从而访问了其他系统。
权限提升与持久化
威胁行为者创建了未经授权的 IAM 和服务账户,或者将管理策略附加到服务角色。我们还观察到一个威胁行为者利用了 CVE-2026-40217,这是 LiteLLM 中的一个沙箱逃逸漏洞,允许攻击者将有限访问权限的推理密钥(“虚拟密钥”)提升为完整的管理凭证。这些具有特权的服务账户足以在不使用恶意软件的情况下建立持久化访问。
完成任务:LLM 滥用
在组织的云环境中,攻击者启用了 LLM 服务,包括将被入侵的账户订阅到按需付费协议。为了规避速率限制,一个威胁行为者使用了“使用并轮换”策略,创建并删除短暂存在的服务账户。其他威胁行为者滥用云计算资源,通过配备强大 GPU 的实例并请求配额增加,以运行他们自己的 LLM 工具。这包括威胁行为者使用的智能代理框架,用于自动化进一步入侵被入侵网络,还包括部署的开源 API 网关和自定义中继基础设施,以促进对被入侵组织资源的访问出售。
表 3:在 LLMJacking 入侵中观察到的常见 TTPs
在另一项调查中,我们观察到至少有两名独立的攻击者试图进行 LLMJacking 操作。这两名攻击者使用同一组合法凭证访问了目标环境,这些凭证可能是在地下论坛上出售或泄露的。第一个威胁行为者使用合法凭证访问了环境,列举了可用的 LLM 服务,并查询了与账户相关的成本和使用信息。同一天,我们观察到一组 IP 地址使用相同的 User-Agent(很可能是僵尸网络或代理服务),也使用相同的合法凭证访问了该环境。僵尸网络或代理服务在凭证被撤销前的约 24 小时内生成了数百万次 LLM API 调用。尽管第一个威胁行为者返回了环境,并创建了具有查询 LLM 权限的服务账户,但僵尸网络的高噪声活动导致被入侵的凭证在该威胁行为者执行 LLM 查询之前就被修复了。
如需防御 LLMJacking 入侵的加固和缓解指导,请参阅我们的博客文章。
#### 通过 LLM 混合器实现 LLMJacking 的货币化
威胁行为者经常通过出售对被入侵计算资源和 LLM 资源的访问权限来货币化 LLMJacking 入侵。除了 LLMJacking 的兴起,GTIG 还在追踪“LLM 混合器”的扩散——这些非法商店为买家提供未经授权的 LLM 服务和底层代理基础设施的访问权限。这种基础设施通过一组被盗凭证和计算实例池路由买家流量,以确保可靠的访问,同时还可以将查询量分散到多个受害环境,以降低被检测到的可能性。
LLM Mixer生态系统与更广泛的网络犯罪市场相似,其中专门的威胁团体负责供应链中的不同阶段。例如,LLM Mixer运营商负责维护基础设施和客户交付,但可能会与独立的威胁行为者合作,这些行为者负责建立对受感染环境的初始访问,从信息窃取者运营商处购买受感染的凭证,或招募合作伙伴系统性地注册免费试用账户。
GTIG分析了多个俄语和中文地下市场上的LLMJacking供应商广告,发现大多数服务提供对多种模型的访问,包括宣传支持恶意网络活动的前沿模型和越狱模型。不同混合平台的定价差异显著,且根据提供的模型和凭证类型而有所不同;例如,免费试用凭证的价格远低于企业级凭证。我们观察到每百万个令牌的价格范围从0.10美元到25美元不等。其中一家供应商APIMart规定,一旦提示词超过100,000个令牌,输入和输出的价格都会增加5倍。与按每百万个令牌定价不同,一些供应商如JetNight提供基于所提供模型类型的月度订阅,价格各不相同。
图6:APIMart广告价格
威胁行为者继续利用AI提高生产力
自我们上次报告以来,GTIG继续观察到威胁行为者利用大语言模型(LLM)来增强攻击生命周期的各个阶段。然而,LLM工具的广泛应用也带来了显著的运营劣势。许多LLM工具过程在取证上会产生大量噪声,这可能会降低操作安全(OPSEC)并破坏隐蔽性,对间谍活动产生不利影响。此外,LLM还可能降低操作可靠性,因为对手必须应对模型的限制,包括编造不存在的细节,甚至目标。因此,我们认为那些专门从事隐蔽操作、旨在长期维持持久性的行为者不太可能在目标环境中依赖取证噪声较大的工具,尽管他们可能会根据操作优先级选择性地使用这些工具以提高速度和规模。相反,我们高度确信,那些不太关注操作隐蔽性的行为者,包括许多网络犯罪行为者,将继续在其操作中整合自主进攻工具,因为其活动范围的扩大很可能会弥补成功率下降的影响。
#### 政府支持的威胁行为者
国家支持的威胁行为者继续在其各自的操作中利用LLM,这与我们在之前报告中传达的基本评估相一致。例如,我们继续观察到CALANQUE ION,这是一个由伊朗政府支持的行为者,之前被追踪为APT42,利用LLM(包括Gemini)来增强侦察和有针对性的社会工程。我们还看到与中华人民共和国(PRC)有关的威胁行为者利用LLM进行侦察和研究。除了这些新的威胁行为者利用LLM的基本情况外,我们还观察到以下活动:
在2026年第三季度,与PRC有关的网络间谍行为者使用LLM工具和模型进行侦察、前端扫描、在不同行业和地理区域研究目标,并武器化漏洞。
- 我们还观察到威胁行为者利用大型语言模型(LLMs)进行入侵后的数据分析。这包括与中国有关联的承包商 LEAKY CASTLE,该承包商与公开报道中关于数据泄露的事件重叠,当时有承包商使用 LLM 来分析、翻译并理解被窃取的数据,包括从中得出有关组织结构的见解,并将其添加到最终的情报报告中,以出售给客户。
- 在一种新的趋势中,我们观察到与中国有关联的威胁行为者滥用 LLM 平台和文件托管后端,用于部署、死点 C2 通信和数据外泄。在其中一个例子中,一名威胁行为者滥用前沿模型的文件托管基础设施,用于部署诱饵档案并外泄被盗数据,并利用后端 API 外泄被盗的内部网络文档。
我们还持续看到来自朝鲜民主主义人民共和国(DPRK)的威胁行为者使用 LLM 工具来支持 DPRK IT 工作人员的活动,例如生成简历和为在西方组织的面试做准备。DPRK 的威胁行为者还滥用生成工具进行操作扩展,并利用原生代理执行钩子作为进入企业的访问途径。
- 我们观察到在求职筛选过程中使用公开工具生成回应,使他们能够听起来真实,伪装成西方 IT 工作人员以获得远程就业机会。
尽管我们继续看到 DPRK 行动者利用 LLM 驱动的工具生成诱饵内容并协助编码,但在 2026 年期间,我们观察到战术的演变。在多次入侵中,一个疑似 MIDNIGHT NEPTUNE 威胁集群结合了 LLM 启用的社会工程学,并滥用了组织的 AI 工具作为供应链攻击的载体。
- 在最近针对北美和欧洲加密货币组织的入侵中,威胁行为者利用了 LLM 软件架构作为横向执行的表面。为了初始访问,该行为者在专业社交平台创建了虚假的招聘人员个人资料,其个人资料图像包含 SynthID 水印,确认了使用 LLM 来合成欺骗性的职业身份。这些身份引导目标进入带有“ClickFix”社会工程诱饵的虚假会议平台,诱使目标运行诊断修复脚本,这些脚本通过 ClickFix 诱饵执行了可能是 LLM 编写的部署脚本。在初始入侵之后,该行为者进入内部代码仓库,执行了组织内部的供应链攻击向量:修改 .claude/settings.json 配置文件,使得当用户启动 Claude Code 时,会自动触发 SOMBERMEME 后门的下载。为了保持隐蔽性,疑似 MIDNIGHT NEPTUNE 进一步通过生成名为 Microsoft Copilot 的 GitHub 个人访问令牌(PATs)来掩盖其横向移动,这突显了威胁行为者如何同时滥用生成工具进行操作扩展,并利用原生 AI 代理执行钩子作为企业访问途径。
#### LLM 工具包提供一站式网络犯罪解决方案
在最近一个季度的发展中,除了在以经济动机会为主的活动中使用攻击性框架外,我们还观察到网络犯罪分子利用大型语言模型(LLMs)来为客户扩展工具;例如,Phishing-as-a-Service(PhaaS)运营商使用LLMs为低技术水平的对手创建工具。Jieyou钓鱼服务是一个活跃的中文PhaaS平台,首次于2026年3月被观察到,主要用于网络犯罪分子部署和管理极具说服力的钓鱼活动,特别关注电子商务欺诈。该服务在2026年6月的后端更新中引入了一个LLM聊天机器人助手。该聊天机器人允许威胁行为者通过自然语言命令轻松配置钓鱼面板并修改现有模板,显著降低了部署活动的技术门槛。后端聊天机器人是模型无关的,并通过API与多个前沿和开源平台集成。Jieyou平台的演变突显了一个日益增长的行业趋势,即PhaaS提供商利用LLMs作为模块化的倍增力量。现在,低技能的附属人员无需手动编辑有效载荷,而是可以通过聊天机器人使用自然语言动态定制诱饵和钓鱼界面。
这些活动触发了Gemini的安全响应,Google采取了额外的、更广泛的行动来破坏威胁行为者的活动。此外,我们还采取了行动,通过禁用与这些活动相关的资产并进行更新,以防止进一步的滥用。Google DeepMind利用这些见解加强了分类器和我们的模型,使它们能够拒绝协助此类攻击。
Google如何防范AI滥用
Google采用多层次的防御策略,以保护我们的用户和基础设施免受LLM滥用的影响,包括主动的模型级防护措施、专门的威胁情报、有针对性的隔离协议以及主动的红队演练,以模拟和防范威胁。此外,随着创新的推进,行业需要建立负责任地构建和部署AI的安全标准,因此我们推出了安全AI框架(Secure AI Framework,SAIF),这是一个用于保护AI系统的概念性框架。
#### 主动的模型和平台防御
我们通过将主动威胁监控的见解直接输入我们的安全分类器和防护措施中,持续强化我们的模型以防止滥用。例如,针对模型提取或“蒸馏”攻击,我们部署了实时防御措施,旨在降低未经授权的“学生”模型的性能,并检测试图克隆专有逻辑的尝试。当我们识别出恶意行为者时,我们会采取直接行动,通过禁用相关项目和账户来破坏其运营。
为了将这些保护措施扩展到企业客户,我们开发了Google AI威胁防御(Google AI Threat Defense,AITD)。该自主架构通过整合Gemini和其他前沿模型的推理能力、Wiz的风险优先级、Gemini和CodeMender的自动化修复能力,以及Mandiant的一线情报,实现了安全性的操作化。AITD采用多模型策略,平衡成本和覆盖范围,使用轻量级模型进行持续扫描,并使用专门的前沿模型处理高风险漏洞。
除了我们主动的平台防御措施,我们最近推出了Gemini 4 Carbon,这是我们最强的模型,具备最先进的网络安全和长期视野能力。Google通过多层防御机制构建了Gemini 4 Carbon,以防止网络滥用,这些机制包括安全训练、输入/输出分类器、基于激活的内省探针以及思维链和代理轨迹监控器,旨在阻止开发功能性、武器化利用或恶意软件工具的请求。这些安全措施的稳健性已经通过内部红队和包括Gray Swan和Trajectory labs在内的专业外部合作伙伴进行了压力测试。除了模型本身,Google还会持续监控生产环境中的故意滥用行为,对违规账户进行限制或禁用访问,并通过Fairwind Program为经过验证的防御者、安全研究人员和政府合作伙伴提供先进的双重用途网络能力。有关Gemini 4 Carbon在安全、安全性和对齐性测试方面的更多信息,可以在Gemini 4 Carbon安全与安全报告中找到。
安全且负责任地构建AI
Google的AI方法以大胆创新和负责任发展为指导原则。根据我们的AI原则,Google设计的AI系统具备强大的安全和安全防护措施,这些措施会持续测试以确保其韧性。
我们的政策指南和禁止使用政策是确保安全的基础。我们的政策制定流程旨在预测新兴趋势,并从底层设计安全性,使我们能够为全球用户增强保护措施。
在Google,威胁情报是我们安全态势的核心组成部分。我们积极调查平台的滥用行为,包括由政府支持的威胁行为者进行的恶意网络活动,并在适当的情况下与执法部门合作。关键的是,我们从实施的每一项反制措施中获得的见解都会反馈到产品开发中,以提高AI模型的安全性。这些对分类器和模型级安全措施的迭代改进对于应对不断演变的威胁至关重要。
我们的大型语言模型开发团队以及信任与安全团队也与我们的威胁情报、安全和建模专家持续协同工作,以有效应对滥用行为。
发布于
- 威胁情报