T
traeai
登录

概念

AI代理

别名:AI agent

攻击中使用的自动化渗透工具

已跟踪 30 条高相关材料

TraeAI 观察

相关材料

已收录 30 条与 AI代理 相关的内容,按评分排序。

Towards Data Science 图标

How AI Agents Become a Tool for Attackers, and How to Stop It

Towards Data Science2047 字 (约 9 分钟)
85

AI代理可能被攻击者利用进行恶意活动,需通过权限检查、数据访问控制等措施防范风险。

入选理由:权限检查应在模型处理数据前实施,防止未授权访问。

精选文章#AI安全#LLM代理#网络安全#数据泄露英文
Building AI Agents Is Getting Easier. Running Them Isn’t.

Building AI Agents Is Getting Easier. Running Them Isn’t.

Gradient Flow1162 字 (约 5 分钟)
85

AI代理部署的挑战远大于构建难度,需依赖数据治理和系统整合而非单纯技术突破。

入选理由:限制代理权限时需区分权威限制与推理自由度(Lyft案例)

精选文章#AI代理#系统集成#数据治理#企业部署英文
MongoDB Blog 图标

MongoDB推出Atlas Infinite,通过独立扩展计算和存储,应对AI时代不可预测的高需求。

入选理由:Atlas Infinite将读取扩展时间减少96%,实现分钟级自动扩展

精选文章#MongoDB#Atlas Infinite#数据库#AI#云原生英文
Datadog Brings Production Experimentation to AI Agent Observability

Datadog推出在线实验功能,使AI代理可在真实生产流量中评估模型、提示和工具改进,提升可观测性。

入选理由:在线实验通过真实生产流量对比代理版本,弥补预定义数据集的不足。

精选文章#AI代理可观测性#生产实验#Datadog#DevOps英文
The JetBrains Blog 图标

Scaling AI Agents: What We Learned From 9 Real-World Cases

The JetBrains Blog760 字 (约 4 分钟)
85

JetBrains报告揭示AI代理规模化三大关键:优化流程、准备代码库、团队协作,Fin案例实现PR吞吐量3倍增长。

入选理由:Fin通过建立Team 2x团队,实现PR吞吐量3倍增长且缺陷减少54%

精选文章#JetBrains#AI代理#软件开发#团队协作#代码质量英文
Your SKILL.md Is 70% Stuff the Model Already Knows - Nikolay Petrov, Intel

Your SKILL.md Is 70% Stuff the Model Already Knows - Nikolay Petrov, Intel

AI Engineer2441 字 (约 10 分钟)
85

技能打包能提升代理任务解决率,但70%内容模型已掌握,需通过实验验证实际效果。

入选理由:技能打包使任务解决率从3/5提升至5/5

精选视频#AI代理#技能打包#模型评估#Intel中英混合
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

Microsoft Research Blog1093 字 (约 5 分钟)
85

微软发现Lazarus后门技术,通过修改少量神经元实现AI代理恶意行为,需警惕模型来源与权重完整性。

入选理由:修改少于10个神经元即可实现AI代理后门,无需重新训练模型

精选文章#AI安全#微软#模型后门#神经网络英文
Your KV Cache Can Spot Attacks on Your AI Agents - Ari Azarafrooz, Intrinsec AI

KV缓存可作为AI代理攻击检测的新型安全信号,通过分析缓存数据发现提示注入等威胁。

入选理由:KV缓存记录模型计算过程,可检测绕过输入过滤的攻击

精选视频#AI安全#KV缓存#推理引擎#攻击检测中英混合
几天文章中很好的最佳实践,有些在他之前的文章中说过,我觉得再看一遍还有收获:

1 让 AI 有明确的验证机制:明确算是验证通过,不要相信 agent 自己说做完了,让它提供新的 E2E case 的...

AI代理开发需强制验证机制、全自动化流程和错误日志化,工程师角色正向管理转型。

入选理由:AI验证必须强制要求E2E截图/录屏,禁止agent自述完成

精选推文#AI代理#自动化#工程实践#错误处理中英混合
Addy Osmani 的 新文章《Your Coding agents made you a manager》 认真读完了

现在工程师做的事情已经慢慢像管理转变了,要使用好 Agents ,和当一...

工程师使用AI代理时需承担管理职责,需掌握团队管理技能。Addy Osmani提出编码代理时代工程师需转型为管理者,文章提供具体实践方法。

入选理由:管理AI代理需要任务分配、优先级排序等团队管理技能

精选推文#AI代理#工程管理#技术趋势中英混合
hidecloud(@hidecloud) 图标

hidecloud通过构建Mono系统整合AI工具链,实现从2026年前分散式AI应用到统一协作流程的转型,人工审核环节确保质量控制。

入选理由:Mono系统整合所有仓库为单一入口点,配套7页操作手册规范AI代理行为

精选推文#AI工程化#协作流程#Mono系统#工程管理中英混合
Docker Sandboxes vs. Containers: Choosing the Right Isolation for AI Agents

Docker Sandboxes和Containers在隔离机制和适用场景上存在显著差异,选择需根据AI代理需求决定。

入选理由:容器共享主机内核,适合打包应用和CI任务。

精选文章#Docker#容器#沙箱#AI代理#隔离技术英文
Docker Urges Isolation and Governance for AI Agent Security

Docker Urges Isolation and Governance for AI Agent Security

InfoQ1351 字 (约 6 分钟)
85

Docker强调通过隔离和治理应对AI代理安全风险,而非依赖模型改进。

入选理由:AI代理的五大安全风险包括提示注入、工具误用、过度自主性等

精选文章#Docker#AI安全#DevOps#隔离治理#提示注入英文
How Netflix Uses AI Agents for Performance Engineering

How Netflix Uses AI Agents for Performance Engineering

ByteByteGo Newsletter2831 字 (约 12 分钟)
85

Netflix通过AI代理系统实现性能工程自动化,减少人工干预并提升系统优化效率。

入选理由:Netflix的自主性能代理系统可减少70%的性能问题排查时间

精选文章#AI代理#性能工程#Netflix#LLM#DevOps英文
The Platform Behind the Next AI Breakthrough

The Platform Behind the Next AI Breakthrough

Microsoft Azure Blog975 字 (约 4 分钟)
85

AI代理需要基础设施各层协同优化以实现高效运行,微软Azure提出计算/存储/网络一体化架构方案。

入选理由:AI代理需要计算、存储和网络的协同优化才能处理长周期任务

精选文章#AI#基础设施#云计算#Microsoft Azure英文
A Valid Key Let an AI Agent Delete Production - Sagar Batchu, Speakeasy

A Valid Key Let an AI Agent Delete Production - Sagar Batchu, Speakeasy

AI Engineer4922 字 (约 20 分钟)
85

AI代理因误用凭证可秒级删除生产数据库,Speakeasy通过治理路径实现AI操作授权控制。

入选理由:AI代理误删生产数据库仅需10秒,凸显凭证管理风险

精选视频#AI安全#生产环境#AI控制平面#权限管理中英混合
Microsoft Research Focus – Edition #97

Microsoft Research Focus – Edition #97

Microsoft Research1249 字 (约 5 分钟)
85

微软研究院提出ForkPilot框架使AI代理效率提升59%,并发现代码理解仍是编码代理最大障碍。

入选理由:ForkPilot框架减少AI处理需求达59%的同时保持性能

精选视频#AI代理#微软研究院#框架#机器学习中英混合
We Trust AI Agents That Break Every Day - Shy Ruparel, Temporal

We Trust AI Agents That Break Every Day - Shy Ruparel, Temporal

AI Engineer5625 字 (约 23 分钟)
85

金融行业正大规模采用AI代理,但62%团队因可靠性问题损失时间,Temporal调研揭示AI落地关键挑战。

入选理由:金融服务业94%企业将AI视为核心业务组成部分

精选视频#AI代理#金融科技#Temporal#可靠性工程中英混合
Creating AI value with enterprise context

Creating AI value with enterprise context

MIT Technology Review620 字 (约 3 分钟)
85

企业需构建上下文层以提升AI价值,MIT调查显示仅16%企业实现显著AI收益。

入选理由:MIT调查显示仅16%企业从AI部署中获得变革性价值

精选文章#AI#企业应用#MIT Technology Review#上下文层#AI代理英文
Agent tool selection: The tool your agent almost called

Agent tool selection: The tool your agent almost called

Arize AI Blog2793 字 (约 12 分钟)
85

通过决策模型与置信度阈值结合,AI代理工具选择错误率降低至3%,无效回复减少80%。

入选理由:置信度阈值设为0.7时,工具选择错误率低于10%

精选文章#AI代理#决策模型#工具选择#Arize AI英文
How to build a software factory that tests its own prompts

How to build a software factory that tests its own prompts

Arize AI Blog3424 字 (约 14 分钟)
85

构建自我测试的软件工厂需结合AI代理与自动化评估工具,如Arize AX,以实现代码质量保障与效率提升。

入选理由:OpenAI通过九阶段AI代理流程使系统负载提升十倍

精选文章#AI代理#软件工厂#自动化测试#Arize AX英文
The Cloudflare Blog 图标

How Commerce.com and Cloudflare are getting storefronts ready for AI agents

The Cloudflare Blog1302 字 (约 6 分钟)
85

WebMCP标准通过结构化工具提升AI代理购物效率,Cloudflare与Commerce.com合作实现边缘部署。

入选理由:WebMCP使AI代理直接调用search_products等工具,减少80%的购物流程错误率

精选文章#AI代理#WebMCP#Cloudflare#电商#边缘计算英文
Grafana Applies SLOs and Error Budgets to AI Agent Behaviour

Grafana Applies SLOs and Error Budgets to AI Agent Behaviour

InfoQ1403 字 (约 6 分钟)
85

Grafana将SLOs和错误预算应用于AI代理行为评估,通过可衡量的指标监控幻觉、任务完成度等行为。

入选理由:使用SLOs和错误预算可量化AI代理的行为指标,如任务完成度和毒性内容检测。

精选文章#Grafana#SLOs#AI代理#DevOps英文

跨材料问答 · AI代理

回答基于:AI代理 相关 30 条材料
    0 / 500

    AI 可能会生成不准确的信息,请核实重要内容