概念

AI Safety

Q: AI Safety 最近有什么新动态？

traeai 已收录 1 篇与 AI Safety 相关的内容。最新一篇是「What it's really like to run AGI safety at Google DeepMind (and where I disagree with 'doomers') | Rohin Shah」，由 80,000 Hours Podcast 发布。

别名：alignment

确保人工智能系统行为符合人类意图的安全性研究领域。

已跟踪 1 条高相关材料

TraeAI 观察

如果只读 3 篇

What it's really like to run AGI safety at Google DeepMind (and where I disagree with 'doomers') | Rohin Shah

80,000 Hours Podcast · 9 分

Rohin Shah 认为，尽管 AGI 安全风险值得重视，但灾难性对齐失败并非不可避免，常规对齐技术有望成功防止最坏情况，且当前主流担忧（如欺骗性行为）在实际训练中并不构成默认路径。

Rohin Shah 谈在 Google DeepMind 推动 AGI 安全的真实体验（以及我为何不同意‘末日论者’）

80,000 Hours Podcast6月2日27820 字 (约 112 分钟)

Rohin Shah 认为，尽管 AGI 安全风险值得重视，但灾难性对齐失败并非不可避免，常规对齐技术有望成功防止最坏情况，且当前主流担忧在实际训练中并不构成默认路径。

入选理由：Rohin Shah 认为灾难性 AGI 对齐失败不是默认结果，缺乏足够强的论证支持其必然发生。

精选播客#AGI#AI 安全#DeepMind#对齐#Rohin Shah英文

跨材料问答 · AI Safety

回答基于：AI Safety 相关 1 条材料