ByteByteGo Newsletter

EP233: Kubernetes Explained for Busy Engineers

8.5内容质量
EP233: Kubernetes Explained for Busy Engineers

TL;DR · AI 摘要

Kubernetes 是一个用于管理容器化应用部署和维护的编排平台,适合工程师快速理解其核心机制。

核心要点

  • Kubernetes 通过 deployment.yaml 文件定义应用的期望状态。
  • 控制器确保集群的实际状态与期望状态一致。
  • 调度器根据资源分配决定 Pod 的运行位置。

结构提纲

按章节快速跳转。

  1. 介绍 Kubernetes 的基本概念及其在现代工程中的重要性。

  2. 详细说明 Kubernetes 的部署、控制器、调度器和工作节点等组件如何协同工作。

  3. 比较单代理和多代理架构的适用场景和优缺点。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Kubernetes Explained for Busy Engineers
    • 核心机制
      • Deployment YAML
      • API Server
      • etcd
      • Controller Manager
      • Scheduler
      • Worker Node
      • Service & Ingress
    • 架构对比
      • Single Agent
      • Multi-Agent

金句 / Highlights

值得收藏与分享的关键句。

#Kubernetes#容器化#系统设计
打开原文

EP233: 为忙碌的工程师解释 Kubernetes

ByteByteGo

2026年11月14日

工作坊:Anthropic 如何使用 OpenTelemetry 和 Sentry 追踪代理(赞助)

你的代理的 token 去哪儿了?

Anthropic 的 CJ Avilla 将 Claude 平台的 OpenTelemetry 数据发送到了 Sentry。结果发现了一个仍然在消耗 token 的旧项目。

每次重试都会消耗 token,而造成这种情况的原因可能是 API 或数据库运行缓慢,而不是模型本身。在这个实时工作坊中,你将看到:

  • 如何将 Claude 平台的 OpenTelemetry(OTel)数据发送到 Sentry
  • 一个 Claude 代理的失败工具调用、重试以及最终成功,都在一个追踪中展示
  • 修复措施应该放在提示中、工具中,还是其背后的服务中

11月17日10点太平洋时间,立即预留你的位置。

立即注册

本周的系统设计复习内容:

  • 为忙碌的工程师解释 Kubernetes
  • 单代理与多代理架构
  • 测试金字塔
  • LLM 如何通过深度研究使用 AI 代理
  • 生产环境中常见的 AI 代理防护措施

为忙碌的工程师解释 Kubernetes

Kubernetes 是一个用于管理容器化应用部署和维护的编排平台,特别是在多台机器上。

让我们看看 Kubernetes 如何创建并保持一个应用程序的运行。

  • 你在 deployment.yaml 文件中描述应用程序的期望状态。
  • API 服务器验证部署并将期望状态存储在 etcd 中。etcd 是一个持久化数据库,用于存储 Kubernetes 资源,如副本数量、现有 Pod 和节点,以及它们的分配情况。
  • 控制器管理器的任务是运行控制器并确保 Kubernetes 集群的实际状态与期望状态一致。例如,当一个 Deployment 请求四个副本时,控制器确保创建并维护四个 Pod。
  • 调度器决定每个 Pod 应该运行的位置。它根据可用的 CPU 和内存资源、放置规则或其他约束,将 Pod 分配给工作节点。
  • 工作节点是运行分配的 Pod 的节点。每个工作节点包含一个容器运行时,用于下载镜像并实际运行容器。kubelet 跟踪节点与 Pod 的分配情况,并确保它们正常运行。
  • 一旦 Pod 开始运行,Kubernetes 服务为 Pod 提供一个稳定的端点。

然后,Ingress 或 Gateway 将该服务暴露给外部用户。

轮到你了:你在生产环境中运行的是单智能体系统还是多智能体系统?

测试金字塔

测试是可靠软件的基石。测试金字塔是一种广泛接受的策略,用于将测试分为三个关键层次:

  • 单元测试:这是金字塔的基础。单元测试快速、独立,编写和维护成本低。它们测试单个函数、方法或组件。
  • 集成测试:这些测试验证组件之间的交互,例如 API、数据库和外部服务。它们比单元测试慢,需要更多的设置。
  • 端到端测试(E2E):这些测试模拟从开始到结束的完整系统中的真实用户流程。编写和维护成本高,执行速度通常较慢。

随着你向上移动金字塔,测试开发、执行和维护的成本会增加。

轮到你了:在你的测试策略中,你认为哪一层最有价值,为什么?

LLM 如何通过深度研究使用 AI 智能体

当你要求像 Claude、ChatGPT 或 Gemini 这样的 LLM 对复杂主题进行深度研究时,这不仅仅是一个模型在做所有的工作。它是一个由专门 AI 智能体协调组成的系统。

以下是其工作方式:

步骤 1:理解问题并制定计划

一切从查询开始,例如“分析 2026 年 AI 智能体的竞争格局。”系统不会盲目地直接开始。首先,它可能会提出澄清性问题,以明确需要什么。然后,它生成一个计划,将大问题分解成更小、更易管理的任务。

步骤 2:子智能体开始工作

每个小任务都会分配给一个子智能体,它基本上是一个具有特定任务的迷你 AI 工作人员。例如,一个子智能体可能被指派查找最新的英伟达财报。它会确定使用哪些工具,例如搜索网络、浏览特定页面,甚至运行代码来分析数据。所有这些都通过一个安全的 API 和服务层完成,该层将 AI 连接到外部世界。

步骤 3:整合所有内容

一旦所有子智能体完成任务,一个合成器智能体将接管。它会汇总所有内容,识别关键主题,制定大纲,并删除任何冗余或重复的信息。同时,一个引用智能体会确保每个声明都链接回其来源并正确格式化。最终结果是一个经过完善、引用充分的最终输出,准备使用。

轮到你了:你是否在任何 LLM 中尝试过深度研究?

生产环境中常见的 AI 智能体防护措施

  • 输入筛选:在模型看到请求之前,每个用户请求都会被扫描,以查找提示注入、敏感数据和超出范围的主题。不安全的输入将返回一个备用消息。
  • 上下文验证:在模型看到请求之前,每个用户请求都会被扫描,以查找提示注入、敏感数据和超出范围的主题。不安全的输入将返回一个备用消息。
  • 响应生成:LLM 仅基于验证过的上下文进行推理。
  • 输出验证:在响应离开系统之前,每个响应都会被检查其真实性、格式和安全性。失败时会触发最多两次重试,然后使用安全的备用方案。
  • 操作控制:最后一层强制执行限制,记录每次调用,并将低置信度或高风险操作路由给人类。

可靠的智能体不是建立在更好的提示上,而是建立在围绕它们的防护措施上。

轮到你了:在你的设置中,哪一层防护措施能捕获最多的问题?