Inside GitHub’s new Git storage architecture

TL;DR · AI 摘要
Title: Inside GitHub’s new Git storage architecture URL Source: Published Time: 2026-11-05T12:23:21-08:00 Markdown Conte...
核心要点
- 主题聚焦:Inside GitHub’s new Git storage architecture
- 来源:The GitHub Blog,建议结合原文判断细节。
- AI 分析暂不可用,本条为保底评分与摘要。
上周在GitHub Universe大会上,我们宣布推出全新的Git存储架构,该架构能够每秒处理数千次写入操作,并根据需求自动扩展读取能力。通过内部测试,我们已经验证了该架构支持5000个并发代理同时操作一个仓库,每秒向仓库推送7200次提交,同时保持读取流量的低延迟稳定表现。这一新架构是GitHub支持数十亿开发者进行智能体开发的基础,我们在GitHub持续运行的同时,一直在幕后构建这一架构。
过去一年,智能体改变了GitHub上繁忙仓库的形态。在本系列的第一篇文章中,我们阐述了下一代Git存储架构的两大原则:减少协调开销,以及将存储与计算分离。在上一篇文章中,我们介绍了迁移方案:将99.99999%的仓库迁移至Azure,将写入权限范围限定到单个引用,以及通过Azure Blob Storage构建虚拟副本。
我们还观察到一个关键点:写入操作中需要有序处理的部分非常有限。Git对象具有不可变性且通过内容命名,这意味着两个写入者可以同时存储对象而无需任何协商。推送操作中需要协商的部分仅限于引用更新,而引用更新的规模相对很小。虚拟副本是围绕这一特性构建的第一步,也是将仓库迁移至新架构的主要手段。
整个架构设计都基于这一观察。只有引用更新需要协商,这使得原本紧密耦合的Git基础设施组件(数据存储、请求处理、仓库维护)能够独立扩展。对开发者而言,Git的使用方式保持不变:他们依然以相同的方式推送、获取和分支,所有保护机制也保持原样。下文将深入解析该架构的设计需求,追踪一个请求在系统中的处理流程,并详细探讨其中两个核心组件。
为智能体规模构建
我们从两个维度思考GitHub平台的规模扩展:
- 水平扩展 指多个仓库中能同时支持的开发者和智能体数量。GitHub当前在这一维度的许多方法都经过多年实战验证,并延续到新架构中:包括基础设施上的租户分区、租户流量的隔离/公平性保障机制、负载感知路由等。
- 垂直扩展 指单个仓库中能支持的开发者和智能体数量。随着智能体编写更多代码,我们预计单个仓库将变得更大更繁忙,因此大部分需求都来自垂直扩展维度。
今天,GitHub.com上最繁忙的仓库每秒最多接收数十次写入操作,通常以短时爆发的形式出现。随着越来越多的工作转移到并行运行且全天候运行的代理上,我们预计这些爆发将在未来一年内演变为持续的流量水平。每次推送都会带来更多的读取操作:CI运行、部署系统会拉取新提交,其他代理也会为了上下文而获取该提交。这种读取扩散效应会导致整体流量随着写入操作呈倍数增长。
我们已经在曲线顶端的仓库中看到了这一趋势。下图显示了某个仓库从3月到5月每天的请求量,期间其流量增长了约4倍。此后,其增长轨迹继续保持指数级上升。

我们必须为一个代理驱动开发持续加速的世界做好准备。与其规划下一个增量,我们设定了至少提升两个数量级的扩展目标。对于单个仓库而言,这意味着新架构需要:
- 每秒处理数千次写入操作。
- 支持多个写入节点。这样做的原因有两个:
- 我们的实践经验表明,索引传入的包数据和检查对象连接性是写入操作中最耗费CPU资源的部分,且该成本会随着写入规模增长,因此单个节点会很快达到计算瓶颈。
- 将这些工作分散到多个节点上可以提高容错能力,并在节点故障时缩短恢复时间。
- 最小化提交延迟。代理在每次推送后会等待,然后再进行下一步操作。
- 按顺序记录每个引用的变更,并能够快速跨引用线性化。一个落后的虚拟副本需要通过仅下载满足即将到来请求所需的数据来追赶。
- 在无变更的常见场景下保持读取操作成本低廉,这由读写比例决定。
- 使每个组件都能独立扩展。
除此之外,系统还必须能够提升整体可靠性和实现全球扩展。
介绍“Project Rubicon”
2026年5月,在首次Azure迁移工作紧随其后,我们开始设计能够满足这些需求的方案。我们尝试了多种方法。在所有方案中,包数据都存储在Azure Blob Storage中,其中一些方案还尝试将引用状态也保留在那里。我们将在下文讨论一些发现的权衡取舍,但最终我们选择了我们认为能在保持正确性、持久性、可用性和延迟保证的同时最大化吞吐量的设计方案。我们将其命名为“Rubicon”,这是对行业在代理驱动开发中跨越的“不可逆转的临界点”的致敬。
让我们从整体架构层面逐步了解Rubicon。许多部分保持不变:来自Git客户端、API和网页界面的请求仍会到达Spokes,Spokes仍然负责路由和负载均衡,并为GitHub其他部分提供内部API以读写仓库数据。Spokes继续担任定位和平衡服务,维护水平扩展所需的分区、隔离和租户公平性。与Spokes相连的数据平面则完全不同,这是全新的架构。

Spokes 将每个请求路由到分配给该仓库的小组虚拟副本之一。虚拟副本是单个舰队的临时计算资源,用于处理读取、写入或两者。虚拟副本的本地磁盘是缓存,可以随时重建。
当 Spokes 能够将仓库的流量路由到相同虚拟副本时,会保持其缓存的热度并降低延迟,但正确性并不依赖于请求到达特定虚拟副本。当某个虚拟副本消失时,仓库的其他虚拟副本会继续提供服务,同时新虚拟副本会随着流量到达逐步填充其缓存。
当仓库变得繁忙时,我们会添加更多虚拟副本。另外,一组压缩节点在后台直接针对 Blob Storage 和 Ref-CAS 工作,合并每个仓库的包并删除不可达对象。这项工作永远不会在虚拟副本上运行,这意味着它们的 CPU 和内存可以几乎完全用于处理请求。
持久化状态存储在两个位置:
- Git 对象以包和辅助读取加速数据的形式存储在 Azure Blob Storage 中。
- 引用和构成仓库的包列表(包清单)存储在一个名为 Ref-CAS("Reference Compare-and-Swap")的独立复制日志服务中。
让我们从写入和读取的视角来了解架构:
- 写入:虚拟副本索引传入的包并将其上传到 Blob Storage,然后向 Ref-CAS 提交一个事务,将包列入清单并更新引用。稍后,压缩节点会将该包与其他包合并以保持读取速度。
- 读取:虚拟副本通过 Ref-CAS 检查引用版本,从 Blob Storage 中拉取所需包到本地缓存,然后从缓存中提供读取服务。
在新架构中,我们采取了多种不同的方法,从虚拟副本上的软件堆栈到流量路由和工作负载调度如何针对不同使用场景(例如许多小仓库与一个大仓库)进行优化。让我们深入探讨架构的两个组件,围绕两个设计原则讲述它们的故事。
最小化协调:以高吞吐量修改引用状态
像 Azure Blob Storage 这样的对象存储服务在其擅长的领域表现非常出色,是许多数据密集型应用(如源代码存储)的天然选择。它们具有持久性和复制性,存储容量可满足需求,每字节成本相对较低,只要流量分布在多个键上,就能提供异常高的聚合吞吐量。因此,新 Git 存储架构中几乎所有持久化数据都存储在 Azure Blob Storage 中,包括:
- 通过推送、压缩和垃圾回收操作生成的包和索引。
- 各种读取加速器(如多包索引、可达性位图和一些自定义格式),这些加速器由我们的维护流程从这些包中构建。
- 使压缩和垃圾回收能够恢复或审计其工作的记录,以及压缩节点用于声明任务的租约。
- 频繁重复获取请求的缓存响应。
- 用于记录仓库引用状态的检查点,但不是用于服务请求的权威状态。

这些数据中大部分是一次性写入到独立键中且之后不再更改,这正是其高度适合 Blob 存储的原因。
引用数据则截然相反。繁忙仓库的引用是相对较小的状态片段,许多写入操作会同时竞争更新它。这种访问模式难以通过 Blob 存储服务,我们的初步原型也验证了这一点。对于这种工作负载,对象存储是一个直观的选择,并且在一定规模下表现良好:条件写入可免费提供比较并交换操作,数据本身已经具备持久性和复制性。然而,我们遇到了一组艰难的选择,下文通过我们尝试的两种方法进行说明。
我们的 第一种方法 是为仓库所有引用创建一个预写日志,由单个 blob 进行索引。每次更新都是对该 blob 的条件写入。这种方法是正确的,读取操作成本低:虚拟副本只需检查 blob 是否已更改,若未更改则任务完成。但写入操作存在瓶颈。同一时间只能有一个条件写入操作在单个 blob 上进行,即使我们将写入期间到达的所有推送操作批量合并到下一个写入中,仓库的写入上限仍为每次往返操作对单个 blob 的一次写入。实际测试中,这使我们的写入吞吐量仅达到每秒数百次。
我们的 第二种方法 将引用数据分散到多个段 blob 中,每个引用通过哈希算法分配到其中一个段。不同段中的引用写入操作不再相互等待,从而提升了上限。但读取操作现在需要检查每个段以确认是否有更改,速度取决于最慢的段。我们用写入延迟换取了读取延迟,而读取操作的数量级远超写入操作。我们可以通过并排展示多个写入和一个读取操作来直观说明这一点:
视频 9 这两种方案都无法满足所有需求,因此我们构建了另一种解决方案:一个专门用于引用数据的复制日志服务,即 Ref-CAS 服务。这就是我们在上一篇文章结尾提到的(小型)共识组,它仍然存在于技术栈中。以下是其工作原理:
Ref-CAS 中的每个引用更新都由多数节点确认提交的 compare-and-swap 操作完成。事务仅锁定其访问的引用,验证每个引用的值是否仍与写入者预期一致,并在日志的多数副本记录该操作后变为可见。代理通常向自己的分支推送更新,因此大多数更新不会发生冲突,并行复制。当两个推送操作更新同一引用时,仅有一个会将更新追加到日志中。
视频 10 Ref-CAS 的每次提交都会获得一个日志序列号(LSN),仓库的版本即为其最新提交的 LSN。读取操作会先针对该版本进行版本检查。虚拟副本会发送其已持有的引用状态版本。如果该版本仍然有效,响应中将不包含任何引用,未更改的仓库仅需一次比较操作即可完成。如果虚拟副本版本滞后,响应将包含当前引用和版本,以及指向打包数据和其他必要信息(如上次垃圾回收周期时间)的指针。
与我们传统架构中的共识组不同,Ref-CAS 从不存储或验证对象数据,仅存储指向对象的指针。虚拟副本在提交引用事务前,会先将推送操作的打包数据上传至 Blob Storage。引用始终仅指向已持久化的对象。
这些方法使我们能够以每秒数万次操作的速率独立处理引用状态事务,并为复制日志上的附加注释提供基准,帮助读取操作决定针对特定请求需要下载哪些内容。
但支持单个仓库每秒数千次写入会带来二阶问题:保持读写性能。为此,我们需要采用不同的压缩方法。
将存储与计算解耦:每秒处理数千次写入的压缩
每次推送操作都会向 Blob Storage 添加一个打包文件。Git 可以从多个打包文件中提供仓库,但每个额外的打包文件会使查找操作略微增加成本,因此打包文件数量不能无限增长。在传统架构中,压缩操作在提供流量的相同副本上运行,且必须在每个副本上执行。在新架构中,压缩操作完全在后台的独立节点上运行,直接针对持久化存储执行,并通过 Ref-CAS 服务通知虚拟副本引用状态的演变。
压缩节点通过租约声明对仓库数据子集的所有权,这使我们能够水平扩展压缩操作。以下是某个压缩节点处理仓库打包文件的一个分片的流程:
视频 11 节点首先在 Blob Storage 中对分片申请租约,因此同一时间只有一个节点可以对分片进行压缩。同时,虚拟副本持续上传数据包并在包清单中列出这些数据包。节点读取清单以发现新数据包,并将其收集到一个开放分段中,这个开放分段本质上是即将被压缩数据的临时存储区。当分段达到基于数据包数量、大小或年龄的预设限制时,节点会密封该分段以阻止新数据包进入,然后将数据包合并为更少但更大的数据包。在压缩过程中,分片的下一个分段可以开始捕获输入数据包。在任何内容发布之前,节点会检查新数据包是否包含与输入完全相同的对象。确认后,节点会上传新数据包并将其添加到清单中。随后,第二个事务会从清单中移除输入数据包,之后清理操作会删除这些输入数据包。
为了实现横向扩展,此过程可以同时独立运行在多个分片上。每个数据包的哈希值映射到特定分片,因此增加分片和节点数量可以提升压缩吞吐量。压缩后的数据包如果仍低于大小限制,会通过其自身的哈希值重新进入对应的分片并再次合并,因此数据包会以层级方式增长直到达到限制。最终效果是数据包数量保持基本稳定,而写入操作量持续上升:
视频 12 压缩操作会合并数据包,但会保留所有对象。垃圾回收是移除不再被任何引用指向的对象的步骤,例如被删除分支或强制推送遗留下来的对象。在我们的新架构中,垃圾回收的工作方式与压缩非常相似,都是通过专用工作线程处理计算密集型任务。它还有一些专门的安全删除数据行为,这些行为值得单独讨论。
通过这些方法,我们能够持续展示写入操作增加时延迟曲线保持平稳的表现,我们还有其他计划中的优化措施,可以进一步提升压缩和垃圾回收过程本身的性能。
接下来的工作
我们最初设定的两个原则使架构的每个部分都能独立扩展。我们通过增加虚拟副本实现读写扩展。Ref-CAS 独立地对每个引用进行排序,而不是对整个仓库进行排序。我们通过增加压缩节点实现维护操作的扩展。我们的目标是让每个仓库,从单个开发者的侧边项目到最繁忙的单体仓库,都能在相同的架构上运行,无需对繁忙仓库进行特殊处理。仓库的规模不会一直保持较小。一个侧边项目可能在一夜之间增加大量代理,它不应该需要迁移或我们特别处理才能跟上。统一架构也意味着我们所做的每项改进都能立即应用到所有仓库。
这一基础使我们能够实现更多功能。我们接下来的重点集中在三个领域:将架构扩展到超出我们目前预测的需求,提高代理在 GitHub 上执行任务的效率,以及为代理开发演进 Git 本身。
改进架构
我们计划进一步完善这一架构。这些改进使仓库能够处理更多活动,同时减少每个请求背后的处理工作量:
- 仅读取所需内容。 从 Blob 存储中获取单个对象,而不是包含它的整个包。
- 按类型组织包。 将提交、树和 blob 分别归类到各自的包中。这样许多请求将访问更少的数据。
- 部分副本。 在本地磁盘上无需存储所有包即可响应请求。
- 物化视图。 以即用形式存储仓库数据,例如预存的归档文件、默认分支的近实时浅层副本,以及与每个提交一起存储的代理会话上下文。
- 全局副本。 在任意区域部署副本,靠近使用它们的工作负载。读取操作的延迟始终在最新写入的有限范围内。
- 按需扩展。 根据实际活跃的仓库动态扩展或缩减集群规模。
GitHub 上高效的代理操作
扩展基础设施是支持代理的一方面,另一方面是让每个代理操作更高效:减少需要获取的字节数、减少往返次数、减少等待变更的时间。这些快速跟进的改进都基于本文中介绍的存储优化:
- 无需克隆即可工作。 许多代理任务根本不需要完整的文件树。它们只需要少量文件和足够的上下文来完成更改。它们可以直接从服务器读取数据。
- 原子提交 API。 通过单个操作提交多文件更改。整个更改要么成功提交,要么在冲突时被干净地拒绝。
- 事件流。 代理及其周边系统最适合使用实时信息。通用事件流使它们能够订阅变更并在变更发生时立即响应。
为代理改进 Git
我们还需要在 Git 本身上进行改进。GitHub 一直是 Git 项目的主要贡献者,我们不会就此停止。我们期待继续推进的一些工作包括:
- 轻量级克隆。 部分克隆、浅层克隆和稀疏检出都能让代理获取更少数据。但每种方法都有局限,它们之间也未必兼容。我们希望改进每个部分并使它们协同工作。
- 消除隐藏的扩展成本。 Git 仍然存在一些代码路径,它们的性能下降速度远快于仓库规模的增长。最近的版本修复了其中一些问题,但我们预计还会发现更多。
- 更快的历史遍历。 元数据(如提交图)可以在不遍历每个提交的情况下回答合并基和可达性问题。这在代理的 API 调用转化为服务器上的 Git 操作时尤为重要。
- 避免常见陷阱。 代理会像开发者一样犯错。Git 可以检测更多常见错误并在造成损害前发出警告。
代理改变了软件构建的方式。GitHub 和 Git 正在随之改变。我们很兴奋地将这种新架构投入实际应用。目前该功能已开放有限的私有预览,预计明年年初将进行更广泛的发布。我们迫不及待地想看到团队在代理数量不再受限于想象力时能构建出什么。我们将继续与客户和 Git 社区一起推动 Git 和 GitHub 的发展。
作者

高级工程师
Brian 是 GitHub 上负责存储和核心服务的首席软件工程师,这些服务支撑着所有仓库交互操作。