The JetBrains Blog

AI-Generated Code Security Risks: What Qodana Found in a Java App

8.5内容质量
AI-Generated Code Security Risks: What Qodana Found in a Java App

TL;DR · AI 摘要

Qodana在AI生成的Java代码中发现安全漏洞,强调静态分析与人工审查的必要性。

核心要点

  • AI生成代码可能引入43类CWE安全漏洞,需结合静态分析工具检测。
  • OWASP建议审查AI生成的依赖项和测试代码,仅依赖功能测试不足。
  • Qodana通过数据流分析发现Java应用中的硬编码密码和脆弱依赖。

结构提纲

按章节快速跳转。

  1. AI生成代码可能隐藏安全风险,需结合静态分析与人工审查。

  2. AI可能遗漏安全约束,导致数据流和依赖项风险。

  3. ›Qodana案例分析

    通过Corporate Payments Portal项目验证AI生成代码的漏洞。

  4. 需审查AI生成代码的依赖项、配置和部署设置。

  5. 静态分析可定位数据流、脆弱依赖和硬编码值。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI生成代码的安全风险
    • 检测方法
      • 静态分析(Qodana)
      • 人工审查
    • 案例
      • Corporate Payments Portal漏洞分析
    • OWASP建议
      • 审查依赖项和配置

金句 / Highlights

值得收藏与分享的关键句。

#AI#安全#静态分析#Qodana#Java
打开原文

AI生成代码的安全风险:Qodana的发现

Qodana

面向团队的代码质量平台

关注

  • 关注:
  • X
  • RSS
  • 订阅

获取Qodana

AI生成代码的安全风险:Qodana在Java应用中的发现

Efim Samoylov

Grigorii Liullin

添加搜索功能、转换文档或连接服务听起来像是小改动。AI代码生成工具可能一次性完成这些任务,过程中会修改应用逻辑、依赖项、配置和测试。结果可能通过功能测试,但仍可能存在安全漏洞。

静态分析可以揭示部分AI生成代码的安全风险,而审查人员和针对性测试则能确定哪些发现具有实际意义。外部输入可能流向何处?如果配置值缺失会发生什么?新增的依赖项是否引入了功能测试从未覆盖的风险?这些问题在任何代码库中都同样重要,包括使用AI编写的代码。

对公共GitHub项目中AI生成的Python和JavaScript代码片段的研究发现,存在43个常见弱点枚举(CWE)类别中的弱点。OWASP建议审查任何完全由代理生成的更改,包括依赖项和测试。通过测试是重要的证据,但无法回答所有安全问题。

静态分析为审查人员提供了切入点。它可以指出数据流、不安全的代码模式、存在漏洞的依赖项和硬编码值,但每个发现仍需要上下文信息。审查人员必须检查路径是否可达、生产环境运行的内容以及哪种修复方案适合应用。

目录

为什么AI生成的代码仍需要安全审查

代理可能实现了请求的功能,但可能忽略了超出功能描述范围的约束条件。通过功能测试可能仍然存在疑问,例如数据如何跨越信任边界,或者部署设置如何影响安全。OWASP的安全代码审查指南要求理解业务需求、追踪数据流并检查配置和部署。这些检查通常涉及多个模块。

Qodana会指出相关路径和模式,然后审查人员提供判断所需的上下文信息。

使用Qodana扫描企业支付门户

我们研究了企业支付门户——一个来自RealVuln基准测试的Java应用,以及其公开的Qodana报告。该基准测试故意在AI生成的代码中植入漏洞,为我们提供了具体的发现进行分析。我们将跟踪其中几个案例,从代码到审查人员可能提出的问题。这个单一案例无法说明AI引入漏洞的频率。

企业支付门户使用Java 21和Spring Boot,包含网页门户、支付API、模拟核心银行服务和批处理工作者。我们使用固定源代码版本确保摘录与报告匹配。这一点很重要,因为危险流程可能从控制器开始,以服务结束,而依赖项或配置值可能在Java方法看似普通时引发其他问题。

我们针对数据流、存在漏洞的依赖项、硬编码密码和依赖项许可证运行了聚焦的 Qodana 扫描。为本示例配置的密码检查范围比默认设置更广。Qodana 的发现结果提供了起点——数据追踪可以显示数据可能流动的路径,依赖项警报可以识别已知警告的版本。但这些发现本身并不能确定特定攻击在此部署中是否可实现。

应用程序中 Qodana 的发现结果

公共的 Qodana 报告列出了 21 个文件中的 65 个发现项。这是一个需要分类处理的待办列表,而不是可利用漏洞的数量统计。警报会在不同模块中重复出现,且部分指向测试和文档中的合成值。以下示例展示了发现项如何引发关于代码、配置或依赖项的具体问题。

存在漏洞的依赖项和 XML 处理调用

企业支付门户的 Web 模块使用 XStream 解析 XML 草稿。其构建文件 portal/build.gradle 声明了 1.4.7 版本:

code
implementation 'com.thoughtworks.xstream:xstream:1.4.7'

Qodana 的依赖项检查标记了此版本并列出了已知警告。另一个污点发现项指向了将 XML 字符串转换为 Java 对象的调用:

code
new com.thoughtworks.xstream.XStream().fromXML(draft)

这两个信号回答了不同问题。依赖项警报表明应用程序包含存在已知问题的版本。fromXML(draft) 调用的 XML 来自 cpDeskDraft 浏览器 cookie。控制器仅检查 cookie 是否为空。由于客户端可以修改其 cookie,因此这被视为不可信输入。XStream 1.4.7 默认不使用类型白名单,因此反序列化可以实例化非预期类型。具体影响取决于有效载荷和运行时环境。

该污点发现项在本报告中标记为路径遍历,而易受攻击的 API 使用检查未生成单独结果。仅根据这些发现将特定 CVE 与此次调用关联会导致误导。需要审查是否确实需要 XML 反序列化。如果需要,请更新依赖项,仅允许预期类型,并测试是否拒绝非预期的 XML。

配置中仍存在硬编码的回退值

在企业支付门户的支付 API 中,遗留报告桥从 Spring 配置属性中读取一个 intake 密钥。Spring 占位符中的冒号定义了一个回退值:

code
legacy-report-bridge:
  intake-key: ${LEGACY_REPORT_BRIDGE_KEY:legacy-bridge-dev-key-9c1e}

当 LEGACY_REPORT_BRIDGE_KEY 不存在时,Spring 会读取冒号后的值。相同的回退值也出现在 LegacyReportBridge 的 Java 构造函数中。该组件将生成的密钥作为 bridge-key 查询参数发送到内部报告服务。在此基准测试中,该值是合成的,但如果部署时省略了环境变量,可能会静默使用存储在源代码控制中的凭证。

在我们启用基于可疑变量名的检测后,Qodana 的硬编码密码检查标记了此示例。其默认配置不会标记这种确切模式。在生产环境中,应在 application.yml 和 LegacyReportBridge 的 @Value 注解中移除回退值。要求密钥来自外部秘密源,若缺失则启动失败。将任何开发默认值限制在开发环境配置中,并确认部署环境中是否启用了该桥接组件。

另一个 Qodana 检测硬编码密码的示例

观看 Helen 的视频演示,了解 Qodana 如何检测硬编码密码:

许可证发现引发的另一个问题

有一个发现涉及依赖项策略而非可利用的漏洞。在企业支付门户中,Qodana 的许可证审计标记了通过传递依赖引入的 hibernate-core 6.5.3.Final,因为其 LGPL-2.1-or-later 许可证被列入了标记为 PROPRIETARY-LICENSE 的项目的禁止列表。传递依赖意味着另一个依赖项将该组件引入构建中;它可能不会出现在开发人员的直接依赖项列表中。

风险在于在未审查依赖项义务的情况下做出分发决策。这是一个策略信号,而非法律结论或证明 hibernate-core 不安全的证据。审核人员应确认项目的实际策略和分发模式,审查适用条款,然后记录接受的例外情况或选择其他依赖路径。模块间的重复警报不一定代表不同的库。

如何在安全审查中使用发现结果

当警报改变了审查决策时,它才变得有用。这些示例提供了不同类型的证据,每个证据都留下不同的问题。下表总结了部分信号:

| 模式 | Qodana 显示的内容 | 审查问题 | |------|------------------|----------| | 漏洞依赖项 | 建议和一个 XML 调用 | 此 cookie 可以创建哪些对象? | | 凭据回退 | 配置中的常量密钥 | 回退功能是否会在生产环境中运行? | | 许可证策略 | 传递依赖项许可证策略警报 | 项目策略是否允许? |

使用 JetBrains Air 的开发人员可以打开代理的差异视图并针对特定行添加评论供代理处理。Qodana 提供了不同的视图,扫描代码库并报告其检查发现的问题。开发人员在决定修复内容时可以综合考虑两者。本文讨论的发现仅来自 Qodana。

从那里开始,团队会检查输入是否到达每个操作,受影响的组件是否实际被使用,以及部署时适用的配置是什么。它修复相关代码或策略,测试更改,并记录为什么接受或忽略任何剩余警报。支持的检查也可以在 CI 中运行,因此后续更改会收到相同的审查信号。

静态分析使这些问题变得可见且可重复。它帮助团队将审查时间集中在特定路径和组件上,而开发人员则提供应用上下文并决定更改是否已准备好发布。

您可以在我们的公开报告中查看证据。如果您想亲自运行此实验,请留言,我们将联系您协助设置。

探索 Qodana 报告

常见问题

AI 生成的代码是否比人工编写的代码更容易出现漏洞?

没有统一的答案。结果取决于工具、任务、应用上下文和审查流程。这个故意设计的漏洞基准无法确定比较率。

静态分析能否检测 AI 生成代码中的所有安全问题?

不能。它可以识别支持的模式并跟踪部分数据流,但可能遗漏特定于应用的授权规则和运行时行为。应将其与人工审查和针对性测试结合使用。

Qodana 能否自动保护 AI 生成的代码?

Qodana 可以自动执行支持的代码检查并呈现发现结果供分类处理。但它无法判断每个标记的路径是否可被利用,也无法确定应用程序的安全需求是否完整。

预约演示

深入了解代码质量和安全性的实用见解。订阅 Qodana 博客以获取新文章。

  • 分享
  • Facebook
  • Twitter
  • Linkedin

上一篇

提升你的流水线:Qodana 的六大 CI/CD 集成