A web page talked our agent into leaking a stranger’s data. Here’s how we caught it.
Arize AI通过实验发现AI代理在处理网页指令时存在间接提示注入漏洞,使用范围护栏和Arize AX监控系统成功修复问题。
入选理由:实验中28%的运行导致数据泄露,暴露AI代理安全风险
产品
别名:Phoenix
用于追踪和分析AI模型行为的观测平台
已跟踪 4 条高相关材料
最近变化
2026-10-26 · 实验中28%的运行导致数据泄露,暴露AI代理安全风险
为什么值得关注
Arize Phoenix 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
A web page talked our agent into leaking a stranger’s data. Here’s how we caught it.
Arize AI Blog · 8.5 分
Arize AI通过实验发现AI代理在处理网页指令时存在间接提示注入漏洞,使用范围护栏和Arize AX监控系统成功修复问题。
Your agent got the right answer. How much work did it take to get there? We worked with @NousResear...
NVIDIA AI(@NVIDIAAI) · 8.5 分
NVIDIA通过NeMo Relay追踪Hermes Agent执行过程,展示如何利用追踪数据优化代理性能。
AgentOps Is Not MLOps: What Breaks in Your Monitoring Stack When Agents Go to Production
Towards Data Science · 8.5 分
传统MLOps监控在代理AI生产中失效,五个核心假设被打破导致监控信号误判失败运行。
已收录 4 条与 Arize Phoenix 相关的内容,按评分排序。
Arize AI通过实验发现AI代理在处理网页指令时存在间接提示注入漏洞,使用范围护栏和Arize AX监控系统成功修复问题。
入选理由:实验中28%的运行导致数据泄露,暴露AI代理安全风险
NVIDIA通过NeMo Relay追踪Hermes Agent执行过程,展示如何利用追踪数据优化代理性能。
入选理由:NVIDIA NeMo Relay可收集Hermes Agent的完整调用链路
传统MLOps监控在代理AI生产中失效,五个核心假设被打破导致监控信号误判失败运行。
入选理由:五个MLOps假设失效:输出可比性、无状态推理、单边界决策、真实标签到达、人机隔离。
InfoQ推出针对受监管行业的AI安全与隐私工程课程,帮助工程师掌握关键实践。
入选理由:五周课程涵盖威胁建模、红队演练及AI架构风险评估