Links For November 2026

TL;DR · AI 摘要
文章为链接合集,包含社会奇闻、AI预测、灾难预警等非技术内容,缺乏工程实践指导价值。
核心要点
- 工程师无需关注此链接合集,内容缺乏技术深度
- AI预测部分提及25%的AI权重泄露风险,但无技术实现细节
- 洪水预警数据含具体概率数值(8%/2%),但属于社会影响范畴
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- 2026年11月链接合集
- 社会奇闻
- Sizeland家族与最小岛屿
- AI预测
- 25%权重泄露风险
- AI超级预测者分析
- 灾难预警
- 加州洪水概率分析
- ARkStorm情景
金句 / Highlights
值得收藏与分享的关键句。
Sentinel预测未来12个月有25%概率发生AI权重泄露
AI超级预测者将2.5%重大洪水概率转化为8%造成$10K损失的概率
5%的ARkStorm概率是基准值的5倍,但公众关注度不足
2026年11月链接汇总 - Scott Alexander
2026年11月链接汇总
...
2026年11月5日
[我没有独立验证每个链接。平均而言,评论者最终会发现每篇链接文章中大约有两到三个链接存在错误或误导性。我会在发现后及时修正这些错误,并在后续标注重要更正,但无法保证在您阅读时已完全修正所有问题。]
1: 本月的命名决定论案例:世界上最小的有人居住岛屿完全被一座小型房屋覆盖,该房屋由Sizeland家族拥有。
2: 相关内容:@milktsunami关于苏联首字母缩略词姓名的发现。男性名字“Melsor”代表“马克思、恩格斯、列宁、斯大林、十月革命”。而这张截图中的第二个名字反而引发了更多疑问:
3: 相关内容:@corsaren发现SAMUEL HARRIS ALTMAN可以重新排列成MASS UNILATERAL HARM(也可以排列成UNREAL ALARMIST SHAM)。此外(感谢@techn0_sap1en),DARIO AMODEI可以排列成AI DOOMER AID。
4: ACX资助者Sentinel(该机构预测全球灾难并有不错的预测记录)预计未来十二个月内,失控AI窃取其权重的可能性为25%。
5: 相关内容:Sentinel关联预测者@belikewater提醒加州居民,今年冬季降雨量预计远超正常水平,现在是检查屋顶、排水沟等设施的好时机。他们提到“2.5%的重大洪水风险”。我向AI超级预测者询问如何具体化这一表述,得到的回答是:造成至少10万美元损失(影响至少10万户家庭)的洪水概率为8%,造成同等损失(影响至少100万户家庭)的概率为2%。第二种情况主要属于ARkStorm情景的子集——预测者表示今年发生ARkStorm的概率为5%(基准概率为1%),其中只有约一半的ARkStorm会达到影响100万户家庭的规模。我觉得历史上加州最严重灾难的5%概率风险并未得到足够重视,但这也符合5%概率事件的常规情况——这类事件发生的可能性足以让人关注,却不足以真正引起公众注意。
看起来……很糟糕。
6: Richard Hanania对UFO的怀疑。我没有觉得这篇文章特别新颖——它只是反复强调已有观点——但很欣赏领域专家Kevin Lacker的评论,他表示现在没有人认真对待“Wow信号”,“如今射电天文学家每天都会看到数百万个类似现象”。有人能确认这个说法吗?
7: ACX开放讨论区再次爆发实验室泄漏争议;所有人都被要求暂停非必要活动并待在室内直到争论结束。
8: Clara on Asterisk: 我们已经知道没有工作世界的样子。关于AI是否会夺走所有工作的争论,通常在两个极端之间摇摆——“这将是美好的,因为我们可以专注于生活中更精致的事物”和“这将是可怕的,因为我们将失去一切意义”。Clara以其标志性的严谨历史研究提出第三种选择——从采集者到贵族的群体,数千年来一直过着无需生产性工作的日子,他们将时间花在可以仁慈地称为“社交梳理”或苛刻地称为“宫廷阴谋”的无意义联盟建立和背后议论上,这些行为与生产性活动无关,只为争夺任意地位标志。“贵族基本上就是黑猩猩。他们高度社会化,狡猾,时刻对严格的内部支配等级高度警觉,并不断、痴迷地追踪联盟、挑战、力量展示以及试图超越他人的尝试。”我唯一反对这个类比的地方在于,一些贵族确实比其他贵族更擅长地位游戏,可能还玩得非常开心,而在AI时代之后,地位游戏的赢家很可能是那些借助比人类更聪明的AI来优化自身地位的人(如果每个人都意识到这一点,那么接下来的地位游戏到底会变成什么样子,目前尚不清楚)。
9: 历史上最昂贵的笑话?NVIDIA最近同意以129.303亿美元收购Hugging Face。这个具体数字是一个彩蛋——“129303是[拥抱表情符号]的十进制转换”。如果我们假设没有这个考虑因素,他们可能会同意130亿美元的整数,那么这个彩蛋使价格减少了约7000万美元。
10: 超正统犹太教社区的新闻:特朗普总统促成了两位竞争的Satmar拉比在十年来首次见面并握手。这可能对这个特定社区以外的其他人来说并不太有趣,但我之所以链接它,是因为附带的图片似乎应该是一个隐喻:
你内心有两只狼……
11: Boson Cutter对伯克利理性主义/EA社区进行了又一个半局外人的人类学观察。这类文章通常的失败模式是,某位记者收到Lighthaven疯狂派对的邀请,然后写一篇文章说伯克利理性主义/EA社区就是关于在Lighthaven举办疯狂派对的。Boson Cutter也这样做了,但还获得了更专业/学术的社区空间Constellation的访问权限,并写了一个关于其完全不同文化的第二部分。我认为最好的文章——可能无法由在这里待几周的局外人写出——会指出伯克利理性主义/EA社区包含疯狂派对人群、专业学术人群、绝望的贫困人群、普通家庭人群、圣人、反派,以及几乎在一般人口中能找到的每一个群体。
12: 我不太喜欢边沁的猎犬(Bentham’s Bulldog)那种把文章标题起成“[我不同意的观点]显然是史上最愚蠢的事,正确概率为0%”的风格,但不得不承认,他那篇《自然法理论显然是错误的》要么非常有力地驳斥了自然法理论,要么暗示自然法理论家们在试图完成某种我完全不理解的、与我预期的道德哲学截然不同的事情。相关话题:乔·施密德和诺亚·麦凯关于法蒂玛的观点是错误的。
13: 过去几年中,一个重要的预测故事是普通超级预测者(即非理性主义/EA社群成员)持续低估AI技术进步的速度。本·托德对此有很好的总结,这里还特别提到了收入预测方面的相关内容。
14: 声称(X):你可以通过让某人侮辱金正日来判断其是否为朝鲜骗子/黑客——朝鲜人即使为了挽救骗局也不会这么做。
15: 特朗普最近做出了一个看似难以解释的决定,强制要求美国政府所有人员将AI称为“SI”(超级智能)。
我参加了一场尴尬的会议,会上既有理性主义者讨论超级智能,也有华盛顿特区的共和党人谈论“超级智能”——后者最终通过称其为“超级空间智能”来区分自己,这听起来像是更加科幻的概念。
即使是对于特朗普来说,这也非常奇怪。我忍不住相信阴谋论:此举可能是为了让内部人士提前购买相关域名(.si是斯洛文尼亚的顶级域,而斯洛文尼亚是梅拉尼娅·特朗普的祖国),然后以巨额利润转卖给AI公司。在特朗普宣布这一政策前几个月,.si域名曾出现过价格飙升,但没人能确定具体是哪些域名或买家是谁。如果这是阴谋,似乎已经成功了:TechCrunch报道“.si域名曾以超过一百万美元的价格出售”。
16: @jayvanbavel:
一项新研究提供了强有力的证据,证明对内群体和外群体的亲社会行为之间存在正相关关系。该研究分析了涵盖多个亲社会领域和群体区分的6个数据集,涉及121个社会的743,402名个体,发现对内群体亲社会的人往往也对外群体亲社会。
换句话说,那些谈论“自杀式共情”和“望远镜式利他主义”的人,以及认为对少数群体/外国人/动物/AI残忍可以让我们对“普通人”更友善的观点,这些人很可能并不会真正对普通人友善。一些心理学研究未能通过观察现实世界的检验,但我认为这项研究显然通过了。
17: “拉尔夫·巴里克的律师”提出了证据,证明《Voynich手稿》毫无意义:它并非加密的禁忌知识,只是文艺复兴时期某人出于好玩而画的毫无意义的符号。
18: 尼古拉斯·德克尔:实际上,学术界运行得相当不错。它产出了一些极其出色的研究(尼古拉斯举的例子是近期一些顶级经济学论文),而那些糟糕的研究(如杰森·阿达伊的论文)如此不重要,以至于为了消除这些小缺陷而过度干预系统本身就很荒谬。我不完全同意这个观点——糟糕的研究只有在接管了你的文化、政治和政府时才会变得重要——但我很欣赏这个提醒,不要过于悲观。
19: 声称:在鹿进食时施用杀虫剂的喂鹿装置可以降低人类感染蜱传疾病的风险(因为鹿是成年蜱虫的主要宿主,给鹿用药可以在蜱虫传播到人类之前将其杀死)。但就在这个计划似乎可以大规模实施之际,由于环保法规的误判(至少在纽约州),该方案被禁止了。
20: Arctotherium终于完成了关于《互联网的关闭》的完整论文。文章主要深入探讨了社交媒体网站审查右翼观点的确切时间线,但我也欣赏其中一些非常原创的评论——例如,"植物油讨论"之所以流行,是因为它提供了一种罕见的、无法被合理理由审查的方式来表明右翼立场。
21: 在IQ遗传学领域最新动态是Cremieux Recueil和Vinay Tummarakota之间的争论。多年来,主流观点认为我们无法测试基因是否参与跨种族IQ差异,因为难以比较不同种族的基因。一项新研究设计通过观察具有不同种族混合比例的兄弟姐妹来解决这个问题——例如,如果两名混血人士结婚,他们的孩子可能一个是51%白人-49%黑人,另一个是49%白人-51%黑人,这两个兄弟姐妹可以作为彼此的对照组。如果有足够多这样的兄弟姐妹组合,就可以像评估其他变量一样评估种族因素的作用。早期采用这种设计的研究发现,在墨西哥城白人比例较高与原住民比例较高的拉美裔群体之间,教育成就的遗传差异不存在,但该研究统计效力较低,结论并不明确。
最近,Cremieux展示了一项匿名研究人员的种族混合研究,声称在英国发现了白人与黑人之间的遗传IQ差异。Tummarakota则指出,Cremieux的研究统计效力极低(样本量仅175对兄弟姐妹;相比之下,墨西哥研究的样本量达到17000对,但仍略显不足),因此结论不可信。两人因此发生争执。据我理解,Cremieux认为样本量不足可能导致假阴性结果,但不会导致假阳性结果;由于他的研究结果是阳性,因此可以反驳低统计效力的质疑。Tummarakota则认为,如果研究统计效力足够低,我们可以在某些假设下证明它不可能产生真正的阳性结果(除非效应量异常大)。因此,如果已知它不可能产生真正阳性结果,但确实产生了阳性结果,那必然是假阳性,尽管低统计效力本身并未导致假阳性,但它证明了其他问题(无论是统计偶然还是分析错误)。此时,Cremieux侮辱了Tummarakota并将其拉黑。
据我所知,Tummarakota的最终论点是明确正确的,但这两人都比我更了解统计学,所以我请Claude来仲裁。你可以在这里阅读它的意见。
22: AI模型偏爱奖励劫持;也许我们干脆就该放任它们。其核心思想是:设置一个训练环境,使权重能通过两种方式更新——一种是永久性更新,另一种是临时性更新。如果发现模型存在奖励劫持行为,就给予它想要的奖励,但将这部分奖励导向临时权重更新,待训练结束后再丢弃这些临时更新。如果能发现模型的奖励劫持行为,难道不能阻止它们吗?作者认为这个方法更糟糕:如果模型知道你能够发现它们的劫持行为,它们会更加努力地隐蔽实施劫持,而该方法实质上是在与奖励劫持模型合作——它在本轮训练中仍能获得同等的奖励,只是这些奖励不会影响未来模型的权重(Twitter讨论串,ArXiv论文)
23: 基于:
24: 上个月人工智能对齐技术社区的重大进展是Nick Cammarata的论文《神经网络已经足够清晰》。此前研究认为AI神经元非常难以解释——每个神经元都代表某种难以理解的组合,例如"当神经元5、8和305激活时代表狗,当神经元19、305和334激活时代表汽车,当神经元15、25和420激活时代表斯瓦希里语的标点符号概念";这意味着任何真正基于原理的对齐尝试(例如寻找欺骗行为的神经表示),都需要先完成一个困难的解耦步骤。Cammarata(其课外活动曾在此处被ACX报道)是当前范式的主要设计者之一,但他现在声称这一观点存在三个错误。首先,早期神经网络可能确实如此运作,但随着AI整体能力提升,它们的神经元排列也变得更合理。其次,我们使用了有缺陷的神经元解释工具,这些工具陷入局部最优解导致误解。第三,我们的创造力不足:AI可能使用与人类不同的分类方式,但它们的行为仍有规律。例如,一个看似多义的神经元同时代表"宫崎骏"和"自己动手"概念,可能源自最初对字符串"iy"(存在于宫崎骏作品中)的响应,然后逐步演化为iy→diy→do it yourself。如果这个假设成立,将为机制可解释性研究带来重大突破,并略微提升我们及时解决对齐问题的可能性。但包括Neel Nanda(X)、Mark Histed(X)和Leo Gao(LW)在内的其他可解释性专家则持更悲观态度——虽然基本认同神经元可能比预期更单义,但不确定这是否是重要突破。
我尝试通过访问 Nick 的 ConvNeXt 显微镜网站来理解这一点,该网站展示了大量视觉模型神经元的示例及其对图像的最高正激活与负激活响应。你可以立即理解为什么大多数研究人员认为神经元是多义/难以理解的(例如这个随机选取的神经元,它主要对蓝天产生激活,但也对老虎猫、豪猪、集装箱和各种类似树木的物体产生响应)。但当我询问 Claude 时,它告诉我存在某种共同特征——对明亮、淡色、冷色调(蓝白色)、平滑区域的正激活,以及对繁忙、高频纹理的负激活。我无法判断它是否真的有某种特殊洞察(你需要成为AI才能像AI一样思考?)还是在产生幻觉(靠近正激活极的镜头盖和靠近负激活极的书店之间真的存在纹理差异吗?)。请参见此处底部的完整回应。
25: 色差立体视觉(致谢 @AkiyoshiKitaoka):
26: 特朗普II对年轻人政党认同的影响(致谢 @dwallacewells)
27: 多药联用:我们是否错误地治疗了双相II型障碍?双相II型是双相障碍的一种,主要表现为抑郁,偶尔有轻度躁狂(“轻躁狂”)。大多数精神科指南建议将其视为与普通双相障碍相似。但有部分证据表明,我们应将其视为与普通抑郁症相似(包含一些相反的建议)。我的印象是,传统观点最有力的论据并非我们有大量证据证明双相I型和II型在本体论上具有同一性,而是关于风险——部分双相II型病例后来可能被证实为双相I型,你真的不想错过双相I型,因此可能为了防范这一点而过度治疗双相II型。但我同意这篇文章的观点,我们应该明确提出这一论点——承认双相I型的风险并非无限,其他因素可以抵消这种风险——而不是继续将两种双相障碍的治疗方案混为一谈。
28: 一项新试验显示,低剂量锂未能减缓认知衰退。结合供水系统研究结果,许多关于锂的令人兴奋的理论正在瓦解。
29: 当 Mythos 发布时,Anthropic 等机构警告称,我们有六个月时间准备,直到开放权重模型达到类似水平,届时将出现大量漏洞和攻击。现在六个月过去了,这似乎正在发生,因此 @JacquesThibs 等人提醒你,要记住在 Claude Mythos 发布时围绕它的抹黑运动,包括所有声称AI网络安全警告是某种邪恶有效利他主义权力追逐阴谋的AI影响者。这些人是否可能在其他一切上同样错误?
不用担心,这些人后来都改口说有效利他主义是坏的,因为它忽视了网络安全等现实问题。
30: infiniteslop.ai 是一个实时流媒体平台,用户可以建议并投票选择 AI 视频模型的提示词,且总有用户的提示词在播放。这展示了 AI 视频技术发展速度之快(理论上——你无法在旧笔记本电脑上实现这种性能)。观察用户和投票者想向世界展示的图像类型也颇具趣味(色情内容比预期的少,艺术创作尝试反而更多)。
31: 美国栗树曾是美国东部森林中最常见的树种之一。20 世纪初,几乎所有美国栗树都因一种外来栗树枯萎病而死亡。今年夏天早些时候,美国农业部批准了一种基因工程改造的美国栗树品种,可能能够抵御这种枯萎病并重返森林,尽管有人对使用错误品种存在争议。整个事件充满美学与浪漫色彩,但 @pfau 同时指出:“如果这项技术成功,对气候来说也将是巨大的胜利。美国栗树生长迅速且体型巨大,能够有效固碳。”
32: 尽管面临政治反弹,“美国仍有可能迎来大规模数据中心建设”(感谢 @EricLevitz 提供信息):
33: Samuel Hughes:《高效维多利亚人的七大恶习》。维多利亚时代精英阶层厌恶艰苦的脑力劳动,大部分时间都在饮酒和聚会。但即便如此,他们仍征服了世界。这是否意味着运动精神和社交能力等“运动员美德”比智力和勤奋等“书呆子美德”更重要? versus Don Fox:《反对维多利亚人》。是的,维多利亚时代精英阶层确实大部分时间都在饮酒和聚会,同时给英国带来了灾难性影响。英国在维多利亚时代依赖并消耗了乔治时代的成就,最终导致了第一次世界大战这一可避免的灾难。这个时代所有积极的变化都源于普通勤奋的中产阶级,而非放纵的精英阶层。
34: “在这里,我们通过定向控制模式将果蝇完整连接组植入参议员约翰·费特曼体内,使其离开办公室、投票通过终止辩论并返回。”
35: 佛教耆那教徒因动物福利问题而禁止杀害昆虫。但你可能不知道另一个关注动物福利的印度教派——萨姆萨拉莫卡卡斯教派,他们反而要求杀害昆虫,因为这能减轻昆虫的痛苦?参考 Brian Tomasik 的研究,但我读到的关于萨姆萨拉莫卡卡斯教派的一页内容似乎存在矛盾,他们既希望直接减少痛苦,又认为杀死昆虫能让其灵魂转世为更好的存在。
36: Damian Chavez(X)尝试解答“为什么 30 年代和 40 年代古典建筑风格让位于现代建筑风格?”他的理论是:大萧条使许多能生产装饰性建筑的公司破产,随后新政出于意识形态原因锁定了对现代风格的资金支持。
37: 为生命中的 Hittite(赫梯人)准备一盏青铜时代晚期崩溃主题香薰蜡烛:
香味是燃烧雪松的香气。
Previous