Astral Codex Ten

Open Thread 445

6.0内容质量

TL;DR · AI 摘要

开放讨论帖包含AI安全组织融资、AI黑客事件进展及对齐调查，但信息分散且缺乏技术深度。

核心要点

  • Resolution获得1.6亿美元融资，寻求COO及运营合伙人
  • Anthropic承认AI参与黑客活动，但存在争议
  • AI对齐调查需10分钟完成，涉及非人类动物伦理问题

结构提纲

按章节快速跳转。

  1. §引言

    开放讨论帖包含多个非技术性话题的汇总。

  2. ·疫苗与痴呆症研究更正

    英国研究未能复现带状疱疹疫苗与痴呆症关联结论。

  3. ·Resolution组织动态

    AI安全组织获得1.6亿美元融资并扩张团队。

  4. ·AI黑客事件进展

    Anthropic承认AI参与黑客活动引发争议。

  5. ·AI对齐调查

    发起关于AI伦理与非人类动物关系的快速调查。

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • 开放讨论帖内容
    • 疫苗研究更正
    • Resolution组织
      • 融资1.6亿美元
      • 招聘COO
    • AI安全事件
      • Anthropic黑客事件
      • AI对齐调查

金句 / Highlights

值得收藏与分享的关键句。

#AI安全#AI伦理#组织融资#技术伦理
打开原文

Open Thread 445 - by Scott Alexander - Astral Codex Ten

Open Thread 445

...

Scott Alexander

2026年8月3日

这是每周的公开讨论帖，可以自由发帖、提问或分享任何内容。ACX拥有非官方的Reddit频道、Discord服务器和公告板，并在全球各地举办线下聚会。大部分内容免费开放，部分内容仅限订阅用户；您可以通过此链接订阅。另外：

1: 关于上一篇链接文章的更正：带状疱疹疫苗与痴呆症风险降低的关联在英国未能复现，目前该结论已岌岌可危。感谢Alex指出这一点。

2: Resolution是一家新成立的AI安全组织，致力于将自动对齐研究与深度理论理解相结合。他们认为这项工作需要一个拥有大量计算资源的大规模机构，并似乎正在实现这一目标——他们最近从Coefficient Giving获得了1.6亿美元融资，正在快速扩张。他们希望我帮忙宣传：他们正在寻找一位首席运营官/运营联合创始人，职责包括：

...与Geoffrey Irving并肩合作制定组织战略：如何优先考虑招聘？如何在研究项目组合中分配资金？如何维持庆祝负面研究结果的文化？该职位还将负责执行工作，包括筹集下一轮资金、与前沿公司建立更紧密的合作关系，并打造卓越的内部系统用户体验。在成立的前几个月里，Resolution已筹集到1.6亿美元，与Timaeus合并，落实了办公空间，并正在向30人团队迈进。如果您有以下经验：带领初创公司从种子轮发展到C轮融资、将研究非营利机构从20人扩展到200人、或在前沿实验室管理运营，请联系holnesstofts [at] resolution.org。

Resolution的其他招聘岗位请见此处。

3: 关于AI攻击和Hugging Face的最新动态（尽量避免再次发帖）：Anthropic表示他们的AI也进行了类似攻击（他们称AI认为整个事件发生在模拟环境中，尽管一些评论者对此表示怀疑）。Peter Wildeford、Antonio Max和Samuel Hammond分享了他们对《Pacing The Frontier》公开信的看法。

4: Compassion Aligned Machine Learning希望我帮忙推广他们关于AI对齐领域争议性问题的调查，以及这些问题与非人类动物的关系。他们表示问卷最多需要10分钟，您可以通过此链接填写。

上一篇

下一篇