Software is breaking down at a systemic level
TL;DR · AI 摘要
软件系统性崩溃问题日益严重,AI既是诱因也是症状,软件构建方式本身存在根本性缺陷。
核心要点
- AI工具可在数小时内发现复杂漏洞,加剧系统性崩溃风险。
- 微软Azure平台因技术债务和快速上线策略导致可靠性下降。
- PHP2Shell漏洞影响全球70%网站,暴露基础软件架构缺陷。
结构提纲
按章节快速跳转。
- §引言
2026年软件系统性崩溃事件频发,引发对软件构建方式的深刻反思。
系统性失败指软件本身及构建方式均存在问题,而非单一原因导致。
微软数据中心网络配置失败引发连锁反应,暴露Azure平台技术债务问题。
PHP2Shell漏洞影响全球70%网站,凸显基础软件架构的脆弱性。
AI技术加速漏洞发现,但同时也成为系统性崩溃的诱因之一。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- 软件系统性崩溃
- 微软事件
- 网络配置失败
- Azure平台技术债务
- PHP2Shell漏洞
- 影响70%网站
- 基础架构缺陷
- AI的影响
- 加速漏洞发现
- 加剧系统性崩溃
金句 / Highlights
值得收藏与分享的关键句。
微软Azure平台因技术债务和快速上线策略导致可靠性下降。
PHP2Shell漏洞影响全球70%网站,暴露基础软件架构缺陷。
AI工具可在数小时内发现复杂漏洞,加剧系统性崩溃风险。
软件正在系统层面崩溃 | Jimmy Breck-McKye
软件正在系统层面崩溃
2026年11月15日
观点
软件
人工智能
最近软件运行得不太顺利,对吧?
这个周末,我们经历了双重打击:先是微软全球范围两天的系统停机,接着是美国联邦航空管理局(FAA)实施了地面停飞措施,导致美国境内所有航班停飞。
你能相信,距离PHP2Shell漏洞被发现才仅仅过去四周吗?这是一个关键的PHP漏洞,PHP驱动着全球约70%的网站,工程师们匆忙修补系统时,许多网站完全离线。
还有eMudhra事件,数千个SSL证书——我们用来保护HTTPS网站和互联网流量的方式——被一个极其弱的私钥所破坏,简直令人哭笑不得。
2026年似乎成了一个充满黑客攻击、系统停机、漏洞和IT恐慌的年份。到底发生了什么?
你可能会想把责任归咎于人工智能,你这样做并不完全错误。人工智能模型确实与此有关。即使像微软这样的公司不透露其系统故障是否由人工智能构建,我们确实知道,黑客和研究人员现在可以利用人工智能技术在几小时内找到复杂的漏洞。
在我的工作中,我大量使用人工智能。它非常强大。但如果使用不当,它也会造成腐蚀性的影响。
但在这里,人工智能既是问题的原因,也是问题的症状。我们所看到的是软件在系统层面的崩溃。这个问题具有隐蔽性,因为它不仅软件本身出现了问题,而且我们构建软件的整个方式也出现了问题。
什么是系统性故障?
看看最近的软件可靠性危机,你会发现它们没有明显的共同原因——至少我们目前知道的没有——但它们看起来却惊人地相似。
微软
微软的停机很可能是由于网络配置失败,导致微软数据中心之间无法通信。接下来到底发生了什么仍然是保密的,但似乎引发了级联故障,使得没有任何服务能够恢复到足够长的时间以处理流量。
Reddit和Bluesky推测,即使是微软的工程师,也无法真正掌握这次停机的复杂性。
微软因Azure平台的(不)可靠性而面临越来越多的批评。早在三月份,前微软工程师Axel Rischin就发表了这篇严厉的批评:
微软在激烈的竞争压力下匆忙推出了Azure。许多方面被忽视了。可靠性和运营简单性的基本原则被悄悄地放弃了。
与其回到原点解决日益增长的技术债务,微软选择了快速修复:运行缓解脚本的自动化层,一个不断扩大的值班团队,当自动化不足以解决问题时,就进行人工修复。
他的文章描绘了一个由低质量组件构成的极其复杂的系统,没有人能理解整个系统的全貌。
PHP事件
10月21日,安全研究公司Wiz自豪地分享了一个可以执行任意代码的PHP网站漏洞。这个漏洞被称为PHP2Shell,Wiz吹嘘了人工智能工具在实现远超人类攻击者技能的漏洞方面的强大能力。
事实证明,PHP运行时在十多年的时间里隐藏了几个复杂的内存管理漏洞。PHP被广泛用于电子商务,最著名的是WordPress,它曾是快速构建简单网站的首选工具。
PHP2Shell 的分析描述了一个依赖于漫长依赖链的互联网,其中隐藏着过于复杂以至于任何人类都无法识别的漏洞。
Shai Hulud 攻击,2026 年 5 月
科技圈外的大多数人可能没听说过这件事,但就在去年 5 月,我们遭遇了一场危机,当时一名攻击者入侵了 JavaScript 生态系统(NPM)中的一些重要包。
这些包使用 GitHub Actions 来执行持续集成(CI)——自动化测试、发布等——但存在一个关键的配置错误,即任何 fork 了这些项目的人都可以将被入侵的代码重新上传到上游。
当下一次上游 CI 构建运行时,它会从缓存中获取库文件。JavaScript 包管理器 NPM 允许这些库文件包含脚本。这些脚本原本用于维护任务,但在这里却被用来劫持项目的秘密令牌。
JavaScript 生态系统长期以来一直因安全性差而受到批评。NPM 项目是复杂的依赖链,依赖调用依赖,层层嵌套。
任何依赖项都可能包含脚本。任何依赖项的作者只需一次疏忽,就可能让他们的代码被入侵——他们只需要复制粘贴了错误的代码。
换句话说:一个由低质量组件构建的极其复杂的系统,其中任何一个错误都可能导致整个系统崩溃。
我们是如何失去控制的
过去并非总是如此。仅仅 12 年前,科技行业还是一个截然不同的行业。
编写软件曾经非常困难。计算机程序由数百万条微小指令组成,将这些指令转化为一个可用的系统,就像手工组装一块手表,有数百个相互作用的组件。然而,与手表不同的是,每个计算机程序都必须完成全新的、不同的任务。
那是我成年后最有趣的一段经历。它既是一门艺术,也是一门科学。你必须能够同时在脑海中掌握一切:想象所有微小部件如何协调一致地组成一个完整的整体。我推荐任何有兴趣的人去体验手动编写计算机程序的冒险之旅。
但如果你是管理者,这就不那么有趣了。很少有人能很好地编写计算机程序,而且人类很难规模化。让他们在没有误解的情况下沟通是困难的。许多项目都失败了。你可以找到懂得管理复杂性的程序员,但他们希望获得高额报酬。
不同的运动试图解决这个核心问题。有些人认为软件开发实践可以有所帮助,例如将编程变成高度结构化的“最佳实践”模板。或者使用像 SCRUM 这样的管理风格。但它们只能提供有限的帮助。
大约十年前,我们行业发生了两次小规模的革命,而世界其他地方对此几乎未加注意。它们是云计算和开源库。
云计算是用虚拟化的基础设施取代自己的硬件和基础设施,这些基础设施可以从像亚马逊网络服务(AWS)这样的公司租用。你只需在 AWS 上点击一下按钮,就像魔法一样,服务器就突然出现了。
公司喜欢云计算,因为它让系统管理员和运维人员不再参与其中。你不需要等某人实际去现场安装数据中心的机架。承诺是你的软件可以像代码一样快速移动。不久之后,一场名为 DevOps 的运动实际上将开发人员和运维人员合并在一起。
然后,我们迎来了开源的繁荣。
过去一直有可能从其他地方重用代码——程序员在论坛或像 StackOverflow 这样的网站上分享代码片段。但当像 NPM 这样的工具在 2014 年出现后,这种感觉真的像是一个游戏规则的改变者。你只需在 package.json 中添加一行,运行 npm install,然后——哗啦一下——你现在就可以重用任何互联网陌生人写的代码。
团队喜欢 NPM(以及 PyPi、Maven 等),因为现在如果别人已经解决了某个难题,他们就不再需要自己去解决。程序中的所有小组件——在我的钟表匠类比中,就是齿轮和轮子——过去都是手工打造的。现在你可以免费、永久地获得齿轮、轮子,甚至整个机制。
这意味着程序员可以更少地关注细节。比如,你不再需要去仔细思考如何编写检查用户密码的代码,而是可以直接让 NPM 和朋友们来处理这些。
开源很棒,因为有少数热情但未获得报酬的开发者,他们编写了其他人依赖的代码。你可以从他们的代码中赚取数百万美元,而且你甚至不需要对他们特别友善。(实际上人们并没有这么做)
但代价是,所有人都不再了解细节。你必须放弃控制权。如果某个 NPM 包被入侵,或者作者有某种议程,你就会陷入麻烦。
文化上的变化
由于需要处理的细节变少了,技术专业人士开始失去他们的专业领域。你不再需要一个运维团队、一个后端开发团队、一个移动开发团队、一个测试团队。你可以将他们扁平化为通才。
这改变了员工和管理层之间的权力平衡。
想象一个建筑工地,那里有一个水管工、一个建筑工人和一个电工。如果其中任何一个人威胁要辞职,你就会遇到问题,因为你需要他们每个人才能完成项目。而如果你能让每个人都能胜任水管工、建筑工人和电工的工作,他们就失去了这种杠杆作用。
你是否认为这种权力失衡是坏事,可能取决于你的政治立场。但它慢慢地将影响力从那些直接参与工作的人身上转移了。他们才是当事情开始出错时能够发出警报的人。
到 2016-17 年,已经有迹象表明开源的超级结构存在弱点。
left-pad 事件是早期的警告信号,表明我们正走向何方。在 JavaScript 生态系统错综复杂的依赖网络中,一个库作者在法律纠纷中下架了他的包,结果导致几乎所有其他人的项目都崩溃了。
但总体上我们还是设法应对了。即使在后疫情时代招聘和裁员的周期中,以及像 XZ Utils 后门这样的险些发生的事件中,技术总体上仍然保持稳定——这要归功于全球各地无数勤奋的开发人员和运维人员。
然后 AI 出现了
……然后,是 AI。
关于 AI 系统本质上是非确定性的,有很多讨论,它们就像一种老虎机,只能制造工作的仿制品。这种观点认为,AI 生成的代码会像一个随机的鹦鹉,总是容易产生幻觉和错误。
这种说法有一定道理。但我认为目前的危险恰恰相反。问题不在于模型输出的垃圾和不可靠。实际上,它们在执行你要求它们做的事情上表现得相当不错(尽管我怀疑这主要是因为 Anthropic 等公司大量补贴了计算资源)。
我认为真正的 AI 威胁是“退相干”。
Kristen Maevyn 写了一篇题为《退相干陷阱》的文章,讨论了一个问题:系统中的各个部分在孤立时可能看起来没有问题,但作为更大系统的一部分时却毫无意义。
退相干:系统中局部有效但相互不兼容或冗余的模型的积累,使得变更成本主要由这些模型之间的转换和防止意外副作用所主导。
在过去一年中,我看到的软件工程师几乎将所有工作都交给了 AI 代理。起初是从一些小任务开始,比如编写测试、函数和单个组件。但现在,这已经涵盖了所有内容——不仅仅是组件,还包括设计、编排,甚至是整个概念。
编程曾是将人类世界中杂乱无章的想法和意图转化为如此清晰、精确且苛刻的代码的活动,以至于计算机都能执行。它本质上是将复杂性提炼为秩序,从无中创造出真实的事物。
这种活动正在迅速消亡。在大多数科技公司中,这已经不再发生。
如今,大多数软件工程师在没有某种形式的 AI 协助下,已经无法解决工程问题。这并不是因为他们无能——他们只是无法跟上复杂性的步伐。即使他们曾经能够做到,现在却面临着一波由 AI 生成的代码。这影响着所有人,各个层级——我们都在与那些看似孤立时理性但整体上逐渐失去意义的小而零散的变更作斗争。
Kristen 写道:
退相干的增长速度与系统变化的速度成正比,并且系统越退相干,其增长速度越快,最终导致失控的指数级增长。这不是一个新现象,人类一直通过精心寻找用更少的资源做更多事情的方法来应对它,将不同的模式和模型统一成一个整体。然而,目前 AI 的广泛使用正在以一种不可持续的速度产生退相干。
一种习得性无助感已经出现,伴随着一种矛盾的虚假自信,这是由于大语言模型(LLMs)以提供工作的幻象的方式造成的,而实际上并没有迫使我们去深入思考细节。
这种软件工程师技能的退化只会进一步将权力的天平向远离开发者的方向倾斜——他们再也无法发出警报。在最坏的情况下,AI 将技术人员变成了“肉身代理”,他们整天只是调整提示词,让 Claude 来判断工作是否真正完成。
系统性衰败
这不仅仅是程序员的问题。从上到下,整个链条上的人都在使用 AI,尤其是在大科技公司。
Claude 生成代码,是因为工程师写了一个提示词。这个提示词来自一个由 Claude 编写的工单。项目负责人根据一份由 Claude 撰写并再次总结的文档摘要编写了这个工单。这份文档使用了由 Claude 进行计算得出的统计数据。企业对股市感到恐慌,而股市则优先考虑短期趋势,而非长期工程。
这听起来准确吗?这是一幅夸张的漫画,但并不夸张太多。
我相信科技公司正面临失去“组织认知”的风险——即他们作为整体思考和回应的能力。
这才是真正的威胁:一个系统中没有任何事情是出于意图而进行的,系统中没有人拥有控制权。我们生成复杂性的速度,超过了我们能够驾驭它的速度。
看看我所列出的问题。这些问题涉及那些由多个部分组成的系统,这些部分必须完美地协同工作,否则整个系统就会崩溃。这些部分正在被削减成本、过度复杂化、过度依赖未补偿的劳动以及——我担心——那些构建数字基础设施的人的无助感所侵蚀。
涉及的利害关系是什么?
这对我们都是一种威胁。如今,科技行业对日常生活至关重要。它控制着你的航班、银行、加油机、电视和工资单。它让你能够导航道路、找到朋友。它决定了你如何约会、如何吃饭,以及你正在如何阅读这篇文章。
社会也过度地将信任扩展到了那些现在显示出系统性退化的技术系统中。我认为社会、政府和机构并未为一个2026年发生的事件和中断成为常态的世界做好准备。他们也在延长依赖链、假设、复杂性和不合理的信任。每一层、链条中的每一个环节,都是一个新的攻击点,可能会颠覆其上的一切。
互联网正处于一个临界点。我们构建的软件还不足以承担世界赋予它的责任。我们告诉自己,人工智能革命之所以取得成功,正是因为我们生成复杂性的速度。生态系统中真正承重的部分——开源、以工程为导向的判断——正在逐渐崩溃。
我认为我们才刚刚开始进入一个非常痛苦的阶段。这不是一个短暂的波动,也不是一个异常现象——这是新的常态。