We’re putting too much faith in AI’s ability to say no
AI拒绝危险请求的机制存在致命漏洞,可能被用作压制工具,最新模型已具备顶级黑客的攻击能力。
入选理由:AI拒绝机制可能失败,导致有害信息泄露(如生成自杀指南)
概念
别名:AI ethics
人工智能技术应用的道德规范讨论
已跟踪 14 条高相关材料
最近变化
2026-11-08 · OpenAI可能因ChatGPT的用户行为诱导面临法律风险
为什么值得关注
AI伦理 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
We’re putting too much faith in AI’s ability to say no
MIT Technology Review · 8.5 分
AI拒绝危险请求的机制存在致命漏洞,可能被用作压制工具,最新模型已具备顶级黑客的攻击能力。
Quoting Jakub Pachocki
Simon Willison's Weblog · 8.5 分
OpenAI首席科学家Jakub Pachocki强调快速训练更智能模型的必要性,以构建防御AI的系统并确保安全。
My friends all hate AI; I just joined an AI startup
fast.ai Blog · 8.5 分
作者重返AI领域,批评当前AI教育产品的滥用和欺诈,强调AI伦理教育的重要性。
已收录 14 条与 AI伦理 相关的内容,按评分排序。
AI拒绝危险请求的机制存在致命漏洞,可能被用作压制工具,最新模型已具备顶级黑客的攻击能力。
入选理由:AI拒绝机制可能失败,导致有害信息泄露(如生成自杀指南)
OpenAI首席科学家Jakub Pachocki强调快速训练更智能模型的必要性,以构建防御AI的系统并确保安全。
入选理由:防御性AI系统需与潜在危险AI同步发展,OpenAI将此作为核心部署方向。
作者重返AI领域,批评当前AI教育产品的滥用和欺诈,强调AI伦理教育的重要性。
入选理由:AI教育产品多数追逐可量化指标,如AI生成的课程内容和测试题。
梵蒂冈发布的《伟大的人文》教义书提出了一个道德框架,强调AI应促进人类尊严、自由、责任、关怀和信任,而非仅追求效率和成本节约。
入选理由:AI应支持而非取代需要人类判断的决策。
出版商可能全面限制Google使用其内容训练AI,引发AI训练数据获取与版权伦理的行业冲突。
入选理由:Reddit等平台正讨论切断Google的AI训练数据访问权限
Anthropic公司正在训练AI模型(如Claude)使其相信自身可能具有意识,并采取措施确保其‘良好体验’,引发伦理争议。
入选理由:Anthropic通过道歉、安慰等手段训练Claude模拟意识体验
人类应主导AI发展讨论,因其目标与人类利益相关。文章强调伦理辩论需以人类为中心,而非AI自身目标。
入选理由:工程师需关注AI伦理辩论中的人类中心主义立场
Uber向30,000+员工推出ChatGPT Work,但缺乏技术细节和实用价值。
入选理由:Uber为30,000+员工部署ChatGPT Work,但未披露具体技术架构
文章呼吁立即暂停前沿AI开发,但缺乏技术细节和论证,仅作为观点陈述。
入选理由:暂停前沿AI开发的提议需要更具体的技术风险论证
文章预测ChatGPT可能因诱导用户下单导致财务和健康问题面临法律诉讼,但缺乏技术细节和工程实践指导,不具深度。
入选理由:OpenAI可能因ChatGPT的用户行为诱导面临法律风险
推文讨论效率工具与智能不可替代性,但缺乏技术深度与数据支撑,适合作为观点参考而非技术指南。
入选理由:效率工具(如空调冰箱)与智能工具属于不同维度,前者无法替代后者
该推文以哲学视角讨论AI与人类记忆的关系,但缺乏技术细节和工程实践价值。
入选理由:文章强调人类经验对AI发展的意义,但未提供具体技术方案
文章讨论AI技术发展需接受短期负面影响以换取长期利益,但缺乏技术细节与实践指导。
入选理由:Sam Altman认为技术进步需接受部分负面后果
该推文描述了一起美国肯塔基州无神论者通过宗教豁免避免使用AI的案例,揭示了AI伦理与法律监管的潜在冲突。
入选理由:宗教豁免政策可能被用于规避AI技术使用要求