ByteByteGo Newsletter

How GitHub Used AI to Port Copilot From TypeScript to Rust in Record Time

7.1内容质量
How GitHub Used AI to Port Copilot From TypeScript to Rust in Record Time

TL;DR · AI 摘要

How GitHub Used AI to Port Copilot From TypeScript to Rust in Record Time ByteByteGo Nov 10, 2026 NYSE President Lynn Ma...

核心要点

  • 主题聚焦:How GitHub Used AI to Port Copilot From TypeScri
  • 来源:ByteByteGo Newsletter,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#编程#前端#后端#云计算
打开原文

GitHub如何利用AI在极短时间内将Copilot从TypeScript移植到Rust

ByteByteGo

2026年11月10日

纽约证券交易所总裁Lynn Martin谈AI(赞助内容)

AI发展迅速,从实验阶段迈向能够自主行动的智能体。在理解这一转变对商业影响方面,没有人比纽约证券交易所集团(NYSE Group)总裁Lynn Martin更有发言权。在12月9日的Agentic Data Summit上,Lynn将与Redpanda创始人兼CEO Alex Gallego展开对话,探讨在可靠性至关重要的场景中如何采用AI,分析正在上市的公司如何应用AI,以及随着智能体开始实时行动,及时可信的数据为何变得前所未有的重要。太平洋时间上午9:19准时开播。峰会免费且为线上举办,时间跨度为太平洋时间上午8:30至下午2:00。

立即预留席位

GitHub最近重写了多个Copilot产品的软件引擎。他们将代码库从TypeScript移植到Rust。几乎80万行代码。令人惊叹的是,所有工作都是通过GitHub Copilot应用本身完成的。

这次移植工作的触发原因是现有架构消耗了大量资源,同时将Copilot嵌入其他应用程序也变得越来越困难。

然而,这样一个规模的项目通常需要一个庞大的开发团队和几年时间才能完成。但通过使用GitHub Copilot应用、Copilot CLI和AI智能体,仅有一位开发者就在几个月内完成了全部工作。在本文中,我们将探讨这次移植是如何实现的,并分享过程中的经验教训。以下是本文将涵盖的内容:

  • 移植Copilot运行时的必要性
  • 移植策略
  • 移植工作的启动方式
  • 智能体舰队的作用
  • 新代码的审核方式
  • 遇到的问题
  • 性能影响
  • 移植成本与经验总结

免责声明:本文基于来自多个来源的公开信息。文末参考资料。如发现任何不准确之处,请在评论区指出。

移植Copilot运行时的必要性

可以将GitHub的Copilot运行时理解为跨多个产品的共享软件引擎,负责处理AI智能体行为。由于这个运行时的存在,所有这些产品都可以复用相同的功能,而无需维护各自的实现。

最初,GitHub工程团队使用TypeScript构建了运行时,它在Node和V8 JavaScript引擎上运行。虽然这支持了快速开发,但运行时与命令行应用程序的用户界面紧密耦合。当GitHub需要一个SDK让其他应用程序与Copilot通信时,它是在现有命令行应用程序之上构建了该SDK。当你启动SDK客户端时,必须启动一个独立的后台进程,该进程由命令行应用程序及其运行时组成。请求和响应在消费应用程序与该进程之间传递。

当运行时扩展到对速度、内存使用和扩展性有更严格要求的应用程序时,这种设置变得越来越难以合理化。即使你使用的是 Python、Java 或 C# 编写的应用程序,也必须承载额外的 Node 和 V8 机制。启动客户端时,需要启动另一个进程并准备 JavaScript 执行环境。每个客户端至少需要额外承担约 100 MB 的内存开销。此外,进程间通信也会带来大量额外开销。最后,应用程序需要监控两个进程,Node 进程崩溃时可能会连带导致会话中断。这些成本对需要托管大量客户端的服务来说是一个巨大问题。

因此,GitHub 希望获得一个与用户界面明确分离的独立运行时库。应用程序应能够直接将其加载到自己的进程中。

Rust 是满足此类需求的理想选择。它具有低开销和可预测的资源使用特性。早期估算显示,约 13 万行生产环境 TypeScript 代码需要迁移。但随着更多逻辑从接口层转移到运行时,同时还有其他开发者添加新功能,最终迁移过程中涉及的生产环境 TypeScript 代码总量达到 43 万行。

来源:GitHub 工程师博客

你每周有多少时间在回答问题?(赞助内容)

新员工、支持团队、产品经理和你的编码代理都需要了解产品的工作原理及其背后的原因。如今,你就是那个指引他们方向的人。

Unblocked 能够在你的代码、PR、工单、Slack 和生产数据中找出当前和相关的信息,从而实现:

  • 所有人都能在 Slack 中直接获取引用答案,无需工程师介入
  • 当答案转化为修复时,云代理会自动生成 PR 草稿
  • 你的代理生成的代码遵循过往决策,无需人工指导

[查看工作原理](#)

迁移策略

GitHub 采用了渐进式原地迁移策略。

在这种策略下,即使产品处于活跃开发阶段,也会逐步替换运行时组件。开发团队可以在迁移过程中继续添加新功能并发布更新。

GitHub 工程团队没有选择完全重写后再进行一次性切换。这种做法会将所有风险集中到单次发布中。替代方案需要持续跟进新变更。通过较小的替换,团队能够使每次变更更易于审查、测试和调查。

该过程以分步方式进行。一个组件的 TypeScript 实现通过单次 Pull Request 被替换为 Rust,将变更集中以便审查。任何依赖该组件的 TypeScript 代码通过薄包装器调用新的 Rust 实现。可以将这个包装器视为两种语言之间的临时桥梁。旧实现作为同一变更的一部分被删除,使团队只需维护组件的一个活跃版本。随着越来越多功能迁移到 Rust,这些临时桥梁也被逐步移除。

就具体任务而言,工作从已有强大测试套件且不管理共享状态的小型独立辅助功能开始。这些早期变更也帮助验证了构建配置、打包和语言间通信的可行性。在明确验证方法后,迁移逐步扩展到系统更复杂的互联部分。

在整个过程中,关键目标是保持现有行为和算法不变。更广泛的重构工作在迁移完成后才进行。每一步都进行了验证。他们已有覆盖完整工作流的端到端测试,用于验证实现变更后流程是否正常运作。如果测试失败,相关变更将不会被合并。在用户层面,迁移后的组件通过逐步发布的方式触达用户。这些组件通常会先以预发布版本出现,随后才会进入稳定版本。

端口工作的启动方式

GitHub最初通过一些小型但可运行的示例来测试可行性,然后再处理更大的组件。

首批几次提交主要处理基础的Rust环境搭建工作,包括构建工具、自动化检查和编码规范。他们还引入了运行时库,以及TypeScript和Rust之间通信的机制。

第一次主要端口变更将三个独立的辅助函数完整地迁移了一遍。可以将这些早期尝试视为验证转换后的代码是否能正常运行。团队同时测试了Rust代码的组织方式、构建流程、打包方式以及与现有代码的集成方式。这为团队提供了完整的流程实践经验。

其余工作按照依赖关系进行排序。例如,小型辅助工具和支撑性实用程序会优先处理,随后是状态管理组件、工具、模型客户端和其他集成模块。

会话编排(负责管理大部分运行时逻辑)被留到最后处理。这是因为较大的子系统通常需要多轮迭代工作。

代理舰队的作用

代理舰队在将迁移任务分配给多个同时工作的AI代理方面发挥了关键作用。协调代理可以分析大型组件,将其拆解为更小的任务,并创建其他代理来处理这些任务。Copilot应用使得检查这些会话和在会话之间切换成为可能。它还允许代理在工作推进过程中进行消息交换。

团队从这些代理那里获得了两种不同类型的帮助。首先是子代理,它们在父会话的工作空间内运行,并将发现结果返回给父会话。这些子代理擅长代码分析和回答具体问题。其次是拥有独立Git分支和代码库副本的子会话。这使它们能够独立进行修改。这种隔离机制让多个代理可以同时处理实现的不同部分而不会产生冲突。

一个典型例子是session[dot].ts文件,该文件约有30,000行代码,与运行时的许多部分相关联。协调代理在创建任何内容之前花了一小时阅读和分析文件。分析完成后,它将工作分配给15个子会话。它为每个任务选择了合适的模型。父会话与这些子会话保持沟通,并全程跟踪它们的进度。最后,它将完成的变更合并到自己的分支中。

尽管有诸多优势,但运行如此多的代理也带来了一些限制。当所有15个会话同时尝试构建和测试代码时,开发者的笔记本电脑不堪重负。工作流程进行了调整,子代理会避免执行耗时的构建和测试操作,所有这些工作都交由主代理完成。每个移植会话都分配了独立的聊天会话来管理构建权限,且每次仅允许一个构建操作同时进行。

代理舰队的大部分工作涉及阅读代码、检查依赖项、执行测试以及审查结果。他们的职责不仅限于编写Rust代码,还包括理解现有系统,并验证替换后的代码是否保持原有行为。在整个过程中,人工监督始终至关重要。

新代码的审查方式

开发者持续修改代码库,因此代码审查需要同时检查翻译的准确性以及移植后的代码是否包含最新变更。团队使用了一个可复用的指令"rust-rebase-review"来处理这一流程。

首先,主代理将工作成果推送至最新的主分支并解决冲突。随后,它会检查新到达的TypeScript变更是否已移植到Rust。删除旧版TypeScript有助于突出显示这些变更。如果其他开发者修改了被删除的文件,系统会标记冲突并要求处理。

接下来,多个使用不同AI模型的审查代理会逐行比对旧版TypeScript与新版Rust代码。他们的主要任务是识别行为或兼容性方面的变化,同时检查Rust实现是否足够高效,确认是否已移除过时的TypeScript代码和临时包装器。他们还需确保现有端到端测试未被修改,因为这些测试是预期行为的唯一参考。

代码审查以循环方式重复进行。当代理发现任何问题时,协调代理会核查发现结果并修复有效的问题。这一过程持续到审查结果变得干净为止。每次修复轮次都可以提交并推送,以便进行自动化检查和后续审查。Copilot代码审查和额外的审查机器人也会检查每个提交,并在拉取请求中提供反馈。

人工审查人员重点关注架构设计、接口契约以及代理或测试可能突出显示的风险因素。

遇到的问题

移植过程也引发了一些回归问题。可以将这些回归视为原本正常运作的功能在重写后停止按预期工作。团队发现并修复了大量此类问题。

常见问题之一是翻译后的代码以微妙方式改变了原有行为。例如,某些整数值被转换为十进制数,导致某些SDK出现问题。其他差异涉及空字符串、时区或处理错误方式不同的替代库。代码可能成功编译,但结果可能无法被系统其他部分处理。

另一个主要问题类别涉及状态管理和操作协调。例如,当操作被取消时,并非总是能停止所有相关工作。当资源过早释放时,会话可能陷入停滞。还出现了部分功能丢失的情况,其中一些功能仅被部分迁移。

还有整体集成和性能方面的问题。例如,Rust代码有时会在Node的主线程执行耗时操作,导致界面冻结。在Windows系统上,缺失的进程启动设置会导致不必要的控制台窗口出现。

迁移对性能的影响

重写工作降低了Copilot代理运行时的运行开销,尤其是在时间和内存消耗方面。通过使用Rust,无需初始化Node和V8,也无需加载和准备JavaScript应用。应用可以直接将Rust运行时加载到自己的进程中,避免了与独立运行时进程通信的成本。

GitHub在详细测试中观察到性能提升。例如,在某次测试中,创建客户端、完成一次交互并清理资源所需时间从迁移前的5.25秒缩短到迁移后的292毫秒,性能提升了近18倍。

他们还获得了容量方面的提升。在多个会话共享一个客户端的测试中,吞吐量从每秒完成7.55个会话生命周期提升到120个。内存消耗也显著下降。在10个客户端的测试中,私有内存峰值从1383 MB降至126 MB。

重写工作基本保留了原有的算法。如果运行时某些部分围绕Rust的内存所有权和并发机制进行重新设计,还可能实现更多优化。

迁移成本与经验教训

整个迁移工作消耗了约12万美元的AI令牌成本,覆盖了约1360亿个令牌。其中大部分是缓存输入,这降低了重复处理已有上下文的成本。

更重要的是,这项工作还消耗了开发人员的时间。除了主开发人员外,其他开发人员还为集成、打包、构建优化和代码审查做出了贡献。

过程中有许多值得总结的经验。

首先,明确指导AI工具至关重要。最初要求迁移组件时,有时会导致代理只翻译核心逻辑,而周围代码仍保留在TypeScript中。必须优化指令内容以解决这个问题。

另一个经验是,要成功完成此类迁移,需要强大的端到端测试。这些测试应验证完整工作流是否保留了原有行为。团队提前改进了测试覆盖率,但增加更多测试覆盖率可能能防止更多回归问题。

测试还需要保护机制。例如,不希望代理修改实现方式使测试变弱或改变预期结果。因此需要建立某种监督机制。

还有一个经验是,对于此类迁移,应优先尝试直接翻译而不急于重新设计。保持现有行为和算法的完整性比什么都重要。如果试图将迁移与其他改进结合进行,只会增加问题数量、耗时和令牌成本。

参考文献:

  • 使用Copilot迁移GitHub Copilot运行时到Rust