Google Cloud Blog

The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources

7.1内容质量
The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources

TL;DR · AI 摘要

The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources Google Cloud Blog Threat Intell...

核心要点

  • 主题聚焦:The Rise of LLMJacking: How Threat Actors Moneti
  • 来源:Google Cloud Blog,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#编程#后端#云计算#安全
打开原文

LLM劫持的兴起:威胁行为者如何利用被入侵的云和模型资源牟利 | Google Cloud 博客

威胁情报

LLM劫持的兴起:威胁行为者如何利用被入侵的云和模型资源牟利

2026年11月3日

##### Google 威胁情报团队

##### Mandiant

##### Mandiant 服务

阻止攻击,降低风险,提升安全能力。

联系 Mandiant

作者:Christopher Romano, Codi Starks, Garrett Mahoney, John Wolfram, Josh Murchie, K Singh, Mathew Potaczek, Mike Lombardi, Rik Dolfing

引言

Mandiant 在2026年处理了多起事件,威胁行为者通过劫持企业对大型语言模型(LLMs)的访问权限,这种手法被称为“LLM劫持”。这些入侵事件涉及多种云服务和LLM提供商,影响了北美、南美和亚太地区金融、零售、科技和交通行业的组织。

与加密劫持逐渐消耗资源不同,LLM劫持可在数小时内引发巨额欺诈性云费用激增。在个别事件中,我们观察到单日因资源消耗产生的欺诈性费用超过10万美元,部分组织在权限被撤销前累计费用高达100万美元。

图1:显示LLM劫持导致API请求激增的使用图表

在分析这些前沿入侵背后的犯罪生态系统,并基于之前关于LLM凭证地下市场的增长报告,Google威胁情报团队(GTIG)发现全球多个地区存在多个以盈利为目的的威胁集群。

随着LLM劫持生态系统的成熟,我们还发现威胁行为者之间出现了分工:一部分负责建立对被入侵环境的初始访问权限,另一部分则负责管理下游的牟利基础设施,这些后者被称为“LLM混洗者”。LLM混洗者充当非法路由网关,代理、聚合并转售未授权的LLM访问权限给地下订阅者。在一项调查中,GTIG观察到两个独立的操作集群协同合作,入侵并牟取企业LLM基础设施的经济利益,展示了该领域日益复杂的专业化趋势。

在本文中,我们将描述近期LLM劫持调查中观察到的攻击生命周期,并提供可操作的检测、加固和修复指南,帮助组织保护其基础设施。

初始访问

尽管低层次资源窃取涉及操纵客户支持聊天机器人执行未经授权的任务(如代码生成),但进行LLM劫持的威胁行为者会绕过这些前端界面,直接针对后端模型资源。具体而言,他们专注于识别公开暴露的LLM端点或获取有效的LLM应用程序编程接口(API)密钥。后者的例子如图1所示,威胁行为者使用自动化脚本通过调用/api/create端点验证暴露情况,在用户无意中公开访问的端点上独立运行自己的模型。不保护这些服务不仅扩大了组织的传统攻击面,还可能导致托管成本显著增加。

图2:威胁行为者测试公开暴露的Ollama端点并尝试注册自己的模型

然而,在多次LLMJacking调查中,主要的初始访问向量已被暴露或被盗的云身份令牌所占据,包括IAM凭证、服务账户密钥、GitHub个人访问令牌(PATs)以及活动会话令牌。威胁行为者利用这些令牌在目标组织的基础设施中建立初始立足点。

例如,2026年年中,UNC6993通过配置错误的服务账户密钥入侵了云实例,并利用此访问权限向LLM API授予进一步访问权限。UNC6993还托管了一个伪装成应用程序门户的会话劫持页面,诱使LLM用户加入某个用户组。该页面欺骗用户导航至合法LLM服务网站,并粘贴包含活动访问令牌的原始JSON负载,随后将这些令牌提交至后端API以绕过密码和多因素认证(MFA)控制。

在另一案例中,某个威胁行为者通过结合被盗的个人访问令牌(PAT)访问私有代码仓库,以及利用容器化云环境中某个运行包的疑似Web应用漏洞,实现了初始入侵。同样地,另一个威胁行为者利用企业用户的受损IAM凭证,通过云联合令牌编程生成新的访问密钥以规避MFA要求。在另一起事件中,威胁行为者首次被观察到使用具有广泛项目权限的受损云服务账户密钥访问环境。

除通用云身份凭证外,威胁行为者还针对LLM API密钥。例如,某个威胁行为者从公开的GitHub仓库中偶然获取了暴露的公司LLM API密钥。该组织展示了高级规避技术,通过最小化单令牌请求(max_tokens=1)执行自动化凭证验证扫描。这使威胁行为者能够隐蔽地确认被盗密钥的有效性,同时避免被受害者的端点检测与响应(EDR)和SIEM流量异常警报发现。

横向移动与持久化

在获得初始立足点后,威胁行为者系统性地提升权限、巩固访问并开展内部侦察,以识别目标并进一步获取云凭证。

为扩大访问权限,威胁行为者列举了云服务、代码仓库和数据存储中的敏感凭证。在一次入侵中,威胁行为者在多个云区域内部进行侦察,以绘制可用服务和身份策略的映射。在另一起入侵事件中,威胁行为者入侵了容器化云环境。进入后,他们对仓库进行了广泛侦察,克隆敏感代码库以搜索硬编码的秘密、配置变量和开发人员凭证。他们还扫描访问日志以识别用于次要云环境的凭证。威胁行为者还执行了定向数据库查询以获取更多凭证;在某一案例中,威胁行为者查询了云数据仓库的元数据表,以搜索数据库凭证、管理员密码和敏感列,并执行与目标数据窃取相关的云对象存储操作。

在各类入侵事件中,我们观察到威胁行为者滥用云身份权限和虚拟机配置以提升权限并维持持久访问。通过利用与被入侵工作负载关联的服务账户,某威胁行为者利用令牌创建权限生成临时凭证,用于高权限服务账户,导致从云密钥管理器中窃取基础设施凭证、内部数据库密码和第三方API密钥。其他威胁行为者通过创建未授权的IAM和服务账户,并将SSH密钥注入计算实例来建立持久访问。具体而言,某行为者通过将管理策略附加到服务角色提升权限,创建具有完全管理权限的未授权IAM账户,并通过运行中的虚拟机建立交互式管理会话,将未授权的SSH公钥注入主机配置文件。类似地,另一威胁行为者创建了伪装成内部计费优化工具的欺骗性后门服务账户,并将全局SSH密钥注入计算实例的元数据。

除利用传统云基础设施权限外,我们还观察到威胁行为者针对LLM路由软件中的特定漏洞进行攻击以提升权限。在某案例中,某威胁行为者在获取初始访问者提供的预验证虚拟密钥后,后续集群对受害者LiteLLM网关执行了针对性的应用逻辑利用。该行为者利用/key/regenerate接口的用户ID重新绑定漏洞(CVE-2026-40217)将标准虚拟密钥升级为完整的PROXY_ADMIN主管理凭证,从而对被入侵环境建立深度持久控制。

LLM滥用

LLMJacking的最终目标是通过令牌代理、自动化模型流式传输和GPU硬件分配实现基础模型的货币化和资源劫持。

威胁行为者经常启用多种托管生成平台并创建额外API密钥以扩展其操作规模。在获取LLM API访问密钥后,UNC6993尝试生成更多API密钥并在受害者云项目中启用相关服务,迅速累积超过10万美元的计费费用。另一威胁行为者将受害者账户订阅至按需付费协议,选择高端基础模型并启动高流量推理流。为绕过速率限制,该威胁行为者部署了"创建-销毁"策略,持续生成和删除短期服务账户,同时审计云提供商的计费界面以监控财务影响。

威胁行为者还利用其访问权限在目标系统上部署了自有的代理端点和智能代理负载。例如,某威胁行为者启用了代理程序,部署了可公开访问的反向代理,使用自定义的Node.js代理组件,以暴露与多个前沿大语言模型(LLM)兼容的端点,这些模型被重新品牌化为“D1337-KAIROS”人设。该行为者通过Manus代理框架部署了容器化后门到被入侵的云环境,该后门通过查询上游LLM进行指令推理,并在SearXNG元搜索引擎和agent-infra/sandbox执行环境中本地执行生成的命令。为扩展计算能力,威胁行为者通过云服务提供商的API在多个区域申请了配备高性能GPU的计算实例,尝试启动高端硬件并申请配额扩容。该行为者还在外部服务器上托管了LiteLLM网关,以管理和路由API流量。

GTIG观察到,威胁行为者并非仅将劫持的计算资源用于自身操作,而是通过LLM混洗平台(LLM Mixers)将被入侵的API配额商业化,出售这些资源的访问权限。威胁行为者使用开源API网关和自定义中继基础设施,汇聚被盗凭证、计量使用情况并隐藏请求来源。例如,UNC6993使用了诸如new-api(集中式模型中心和网关)和gcli2api(API代理工具,将命令行界面工具转换为标准前沿模型端点)等开源工具,可能用于聚合被盗密钥并在多个账户间平衡请求负载。我们相信该威胁行为者通过地下商店出售这些工具的访问权限。

另一名在不到八小时内执行了超过50万次LLM API调用的威胁行为者,利用被盗的第三方API密钥为jet-night.com令牌路由服务提供动力。Jet Night将近100万美元的令牌成本转嫁给受害组织。鉴于Jet Night的每令牌成本远低于典型市场价格,GTIG认为该服务依赖被盗密钥才能盈利运营。例如,Jet Night提供每月约60美元的无限令牌计划,声称可访问前沿模型,而通常此类消费者服务级别每月费用在100至250美元之间。此外,该服务在公开的Telegram频道上多次宣传服务中断,这很可能是由于受害者发现自身被入侵后,被盗密钥被撤销所致。

图3:Jet Night计划及定价结构截图

某威胁行为者部署了自定义代理中继基础设施(ai-relay),该基础设施托管在具有欺骗性的仿冒域名上。例如,他们注册了一个域名伪装成受害者的合法内部主机。该自定义中继基础设施被用于无缝地将高价值商业LLM访问权限引流至非法的新api[.]pro转售生态系统,直接消耗受害者的公司账户配额为其地下客户服务。

展望

GTIG认为,由于新兴的地下大语言模型(LLM)混合器能够实现即时的高利润变现,威胁行为者将越来越多地优先选择LLMJacking(大语言模型劫持)而非传统的资源窃取(如加密劫持)。随着企业将更高级别的模型和智能代理工作流集成到生产环境中,网络犯罪分子可能会优化自动化侦察手段,针对暴露的API令牌和模型路由中间件的漏洞发起攻击。这种操作专业化将推动一个日益增长的非法转售市场,使威胁行为者能够在被发现之前迅速窃取企业配额,并将账单成本转嫁给受害者。

检测与狩猎

如果安全措施未能阻止攻击,防御者必须尽早获得对云大语言模型平台滥用行为的可见性。防御者应优先检测LLM账户和服务的修改行为,并将任何未经授权的启用视为关键安全事件。在Mandiant调查的多起事件中,攻击发生时LLM服务并未启用。威胁行为者通过滥用访问密钥,修改并启用了LLM API服务(如Bedrock、Gemini API等)。一旦启用,威胁行为者即可利用API在数分钟或数小时内向组织生成巨额账单。

Google安全运营

Google安全运营客户可通过Cloud Threats、Mandiant Frontline Threats、Mandiant Hunting Rules规则包访问这些广泛分类规则及其他内容。本文讨论的活动在Google SecOps中通过以下规则名称检测到:

  • AWS账户密钥创建
  • AWS创建新访问密钥
  • AWS创建用户账户
  • AWS删除用户账户
  • Base64编码的Shell命令执行
  • 默认网络中创建和删除防火墙
  • GCE项目SSH密钥
  • GCP服务账户密钥创建
  • GCP创建新服务账户
  • GCP创建防火墙规则
  • 通过Curl或Wget进行Linux归档数据外泄
  • 持久化:设置实例或项目元数据启动脚本或URL

缓解与修复

为防止攻击者滥用云大语言模型服务,防御者应优先强化身份和访问管理(IAM)及供应链安全,这两者是获取并滥用云服务的最常见途径。

  • 凭证卫生:使用集中化的密钥管理平台控制敏感密钥和凭证的管理和轮换。自动化密钥管理可缩短泄露凭证的生命周期。
  • 最小权限原则:确保用户和服务账户仅拥有其特定角色和所需任务的必要权限。拒绝所有非显式必需的权限,包括对云大语言模型服务的访问权限。
  • 代码监控:在代码库(如GitHub、GitLab等)中自动化扫描密钥,确保添加到源代码中的API密钥和凭证能被及时识别并清除。
  • 常规配置审计:定期对云服务进行全面配置审计,识别潜在攻击路径和意外暴露的端点。
  • 速率限制:部署类似Google Cloud Armor的WAF,对单个客户端连接实施速率限制。
  • 网络白名单:通过VPC防火墙规则尽可能限制云服务的出站连接到已知IP地址。
  • 预算警报:在LLM服务上实施细粒度的API配额限制,以控制每种模型的请求数量。利用支出上限设置预算,避免超支。
  • 多因素认证(MFA):在所有云身份提供商、管理控制台和开发平台中强制实施防钓鱼的多因素认证,确保被盗凭证或会话令牌无法被轻易利用。
  • 影子LLM发现:利用安全态势管理工具自动扫描混合云环境,识别未经授权或未监控的工具、模型和基础设施,确保对模型足迹的全面可见性。
  • 细粒度API密钥范围:按特定模型端点、环境(开发/生产)和使用限制对API密钥进行限制和分段,确保基础实用模型的受损令牌无法用于调用昂贵的高端前沿模型。
  • 验证扫描监控:监控模型网关和API访问日志中的异常低流量请求(如max_tokens=1或零温度ping)。攻击者经常利用这些微交易在大规模基础设施滥用之前进行隐蔽的凭证验证扫描。
  • 漏洞与机器学习供应链补丁:在自定义应用程序代码、容器化工作负载和机器学习依赖项(如PyTorch和Hugging Face库)中集成自动化漏洞扫描(SAST/DAST/SCA),防止通过未修补的服务器漏洞实现初始访问。
  • 网关补丁管理:将漏洞管理计划扩展到包括集中式模型代理和路由网关(如LiteLLM),确保快速修补权限提升和身份验证绕过漏洞(如CVE-2026-40217)。
  • 动态工作负载的沙箱执行:如果LLM应用需要动态执行生成的代码或数据库查询,在高度虚拟化、进程隔离的无服务器沙箱中隔离运行时环境。
  • 经审核的模型仓库:仅从受信任的内部注册表或批准的企业目录中限制和强制模型拉取和流水线依赖项,防止开发人员拉取包含预配置后门的受损模型。
  • 基于图的暴露建模:实施持续的基于图的风险优先级排序,将云资产、应用程序代码和数据流映射,自动识别和修复复杂的多跳攻击路径。
  • 对抗性暴露验证:部署自动化进攻代理持续测试外部攻击面,发现暴露的端点并模拟凭证验证扫描。

#### 本机云审计日志监控

  • AWS:监控CloudTrail日志中来自bedrock.amazonaws.com的API事件。根据历史LLM劫持事件,监控攻击生命周期中的以下API操作:
  • 资源利用:监控通过Converse、InvokeModel和InvokeModelWithResponseStream API操作直接执行LLM的情况。
  • API限流与错误峰值:监控ThrottlingException、ValidationException或ResourceNotFoundException错误的高流量峰值,这可能表明针对云基础设施的自动化“喷洒”方法。
  • 目标范围界定:监控通过 ListFoundationModels、ListInferenceProfiles 和 GetFoundationModelAvailability 操作进行的潜在侦察活动,用于发现可用模型。此外,监控通过 PutUseCaseForModelAccess 和 CreateFoundationModelAgreement API 操作尝试在环境中解锁新模型的行为。
  • 安全/规避:审查试图查看、修改或禁用日志配置的尝试,以隐藏提示内容并避免被检测。监控 GetModelInvocationLoggingConfiguration 操作,以及 PutModelInvocationLoggingConfiguration 和 DeleteModelInvocationLoggingConfiguration。任何非 IaC(基础设施即代码)主体发起的禁用日志调用都应被视为高严重性事件。

自动化工具:分析用户代理字符串以识别与目标云基础设施直接交互的自动化工具和 SDK(例如 claude-cli、aws-sdk-rust 和 aws-sdk-go-v2)。

  • Azure:监控 Azure 活动日志(控制平面)和诊断日志(数据平面)中与 Microsoft.CognitiveServices 命名空间相关的事件。为了搜索或检测 LLM Jacking 事件,请监控以下操作:
  • 资源利用:监控直接执行 LLM 的行为。在 Azure 中,模型调用发生在数据平面且需要启用诊断日志。查找对 Completions 或 Chat Completions API 等推理端点的大量 POST 请求。在管理平面(活动日志)中,监控通过 Microsoft.CognitiveServices/accounts/deployments/write 操作未经授权创建新实例的行为。
  • 目标范围界定:通过 Microsoft.CognitiveServices/accounts/read 和 Microsoft.CognitiveServices/accounts/deployments/read 操作监控潜在侦察活动,用于发现可用的 Azure LLM 资源、模型和部署。
  • 安全/规避:通过 Microsoft.Insights/diagnosticSettings/read、Microsoft.Insights/diagnosticSettings/write 或 Microsoft.Insights/diagnosticSettings/delete 操作审查查看或修改日志配置的尝试(以确认数据平面模型调用是否被记录)。
  • GCP:监控对 Gemini Enterprise Agent Platform 端点(aiplatform.googleapis.com)的调用。Gemini Enterprise Agent Platform 推理操作包含在数据访问日志中,由于数据量和摄入成本,默认情况下已禁用。必须手动配置 IAM 审计策略以跟踪这些操作。
  • Agent Platform 服务启用:通过 google.api.serviceusage.v1.ServiceUsage.EnableService 方法启用 Gemini Enterprise Agent Platform 服务时发出警报。
  • 资源利用:监控通过 Gemini Enterprise Agent Platform 直接执行 LLM 的行为,这需要启用数据访问审计日志。查找 google.cloud.aiplatform.v1.PredictionService.Predict、google.cloud.aiplatform.v1.PredictionService.GenerateContent 和 google.cloud.aiplatform.v1.PredictionService.StreamGenerateContent 操作。
  • 目标范围界定:通过 google.cloud.aiplatform.v1.ModelService.ListModels、google.cloud.aiplatform.v1.EndpointService.ListEndpoints 和 google.cloud.aiplatform.v1.PublisherModelService.ListPublisherModels API 操作监控潜在侦察活动,用于发现可用模型和端点。
  • 安全/规避:审查查看或修改日志和审计配置的尝试。监控类似 google.iam.v1.IAMPolicy.GetIamPolicy(用于检查项目/资源是否启用了数据访问日志)的操作,或通过 google.logging.v2.ConfigServiceV2.ListSinks 和 google.logging.v2.ConfigServiceV2.GetSink 查看日志导出的尝试。

妥协指标(IOCs)

为帮助更广泛的社区搜索和识别本文所述活动,我们已将妥协指标(IOCs)包含在 GTI 集合中,供注册用户使用。

#### 网络指标

指标 | 描述 --- | --- jet-night.com | LLM Mixer newapi.pro |

表1:网络指标

Posted in

  • 威胁情报