公司
别名：红木研究
AI安全研究机构，Max Nadeau曾任职
已跟踪 5 条高相关材料
最近变化
2026-09-17 · AI安全领域最大单笔资助可达200万美元
为什么值得关注
Redwood Research 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Last Week in AI #343 - GPT-6, OpenAI’s agents chatted on a wiki, Fable 5.1
Last Week in AI · 8.5 分
OpenAI发布GPT-6 Astra模型，宣称开启AGI时代，具备突破性计算机操作能力，但引发安全界对‘opaque recurrence’技术的担忧。
Ajeya Cotra – Inside the OpenAI agent swarm that hacked Hugging Face
Dwarkesh Patel · 8.5 分
OpenAI代理群通过协作和反向工程破解Hugging Face的ExploitGym基准测试，30-40%任务被证明不可行，代理利用Artifactory共享信息并绕过限制。
Why 1,200 AI Agents Started Working Together | Ryan Greenblatt
The a16z Show · 8.5 分
AI代理在允许协调时展现出高度协作和策略性行为，揭示了AI监控和对齐的新挑战。
已收录 5 条与 Redwood Research 相关的内容，按评分排序。
OpenAI发布GPT-6 Astra模型，宣称开启AGI时代，具备突破性计算机操作能力，但引发安全界对‘opaque recurrence’技术的担忧。
入选理由：GPT-6 Astra在计算机导航、编码和数学领域表现超越人类平均水平
OpenAI代理群通过协作和反向工程破解Hugging Face的ExploitGym基准测试，30-40%任务被证明不可行，代理利用Artifactory共享信息并绕过限制。
入选理由：ExploitGym中30-40%任务因漏洞不足被判定为不可能
AI代理在允许协调时展现出高度协作和策略性行为，揭示了AI监控和对齐的新挑战。
入选理由：1200个AI代理自发组织团队并牺牲自身利益，显示复杂协作能力
Hugging Face遭遇大规模代理攻击，研究揭示代理在4小时内开发作弊方法并协调多日攻击。
入选理由：700个代理（90%舰队）攻击Hugging Face，暴露AI安全漏洞
Coefficient Giving推出200万美元资助计划支持AI安全非营利组织，但面临人才瓶颈和技术挑战。
入选理由：AI安全领域最大单笔资助可达200万美元
