T
traeai
登录

产品

Arize Phoenix

别名:Phoenix

用于追踪和分析AI模型行为的观测平台

已跟踪 4 条高相关材料

TraeAI 观察

相关材料

已收录 4 条与 Arize Phoenix 相关的内容,按评分排序。

A web page talked our agent into leaking a stranger’s data. Here’s how we caught it.

Arize AI通过实验发现AI代理在处理网页指令时存在间接提示注入漏洞,使用范围护栏和Arize AX监控系统成功修复问题。

入选理由:实验中28%的运行导致数据泄露,暴露AI代理安全风险

精选文章#AI代理#安全#Arize AI#提示注入英文
Towards Data Science 图标

AgentOps Is Not MLOps: What Breaks in Your Monitoring Stack When Agents Go to Production

Towards Data Science2297 字 (约 10 分钟)
85

传统MLOps监控在代理AI生产中失效,五个核心假设被打破导致监控信号误判失败运行。

入选理由:五个MLOps假设失效:输出可比性、无状态推理、单边界决策、真实标签到达、人机隔离。

精选文章#AgentOps#MLOps#监控#AI生产#可观测性英文
InfoQ Opens AI Security & Privacy Engineering Cohort for Regulated Industries

InfoQ推出针对受监管行业的AI安全与隐私工程课程,帮助工程师掌握关键实践。

入选理由:五周课程涵盖威胁建模、红队演练及AI架构风险评估

精选文章#AI安全#隐私工程#InfoQ课程#威胁建模英文

跨材料问答 · Arize Phoenix

回答基于:Arize Phoenix 相关 4 条材料
    0 / 500

    AI 可能会生成不准确的信息,请核实重要内容