AWS Architecture Blog

How OrderServ achieved up to 64% cost savings with multi-tenant ECS

7.1内容质量
How OrderServ achieved up to 64% cost savings with multi-tenant ECS

TL;DR · AI 摘要

How OrderServ achieved up to 64% cost savings with multi-tenant ECS AWS Architecture Blog How OrderServ achieved up to 6...

核心要点

  • 主题聚焦:How OrderServ achieved up to 64% cost savings wi
  • 来源:AWS Architecture Blog,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#编程#前端#后端#云计算
打开原文

OrderServ如何通过多租户ECS实现高达64%的成本节约 | AWS架构博客

OrderServ如何通过多租户ECS实现高达64%的成本节约

当你的食品订购平台品牌数量翻倍时,专用集群将成为最大的成本问题,而流量高峰期间每次失败的请求都意味着一笔交易的流失。

以下是Cognizant和AWS专业服务团队解决这一问题的方法。

Cognizant是一家全球性服务公司,帮助组织实现技术现代化、重新构想业务流程并转变客户体验。其OrderServ服务是面向餐饮行业的全渠道订购解决方案,支持跨设备订购,并与收银系统、厨房显示屏、支付系统、忠诚度计划及其他企业系统集成。Cognizant是AWS Premier Tier Services Partner,拥有多个AWS专业技能认证,并且是AWS托管服务提供商(MSP)和AWS Well-Architected合作伙伴计划的成员。

2022年,Cognizant曾发布文章介绍OrderServ 2.0如何通过从单体架构迁移到AWS Fargate上的微服务架构,重新构想数字化食品订购,相比传统托管架构实现了30%的成本节约。

此后,该服务从仅服务于一家快速服务餐厅(QSR)品牌,扩展到为多个市场中的多个品牌提供支持。每个品牌都运行在独立的Amazon弹性容器服务(Amazon ECS)集群中,包含21个微服务。这种方式提供了严格的隔离,但随着每个新品牌的加入,成本呈线性增长,且扩展速度无法跟上促销活动引发的流量高峰(高峰时段流量可能在几分钟内激增5-10倍)。

在本文中,我们将描述AWS专业服务团队如何与Cognizant合作,将OrderServ转型为多租户的软件即服务(SaaS)解决方案,实现了47%-64%的计算成本降低,扩展时间从5-7分钟缩短至30-60秒,同时将认证成本降低了80%。

问题:专用集群无法随品牌数量扩展

OrderServ 2.0为每个品牌在专用AWS Fargate集群上运行21个微服务。对于五个品牌而言,这意味着:

  • 105个ECS服务(21 × 5),每个服务在非高峰时段都存在空闲容量。
  • 每个品牌都需要315个用于可观测性、配置和日志路由的sidecar容器,导致资源重复。
  • 成本呈线性增长,因为新增品牌需要部署整个集群。
  • 5分钟的扩展延迟,因为大型容器镜像增加了AWS Fargate上的镜像拉取和任务启动时间,导致促销流量高峰期间容量扩展延迟。

在QSR行业,流量高峰期间每次失败的请求都意味着一笔交易的流失,用户可能会立即转向竞争对手的服务。该服务需要以成本效益的方式支持超过10个品牌,同时应对不可预测的流量模式:午餐高峰、促销活动和节日流量激增。

解决方案概述

我们通过以下四项架构改进解决了这些挑战:

  • 共享ECS集群与租户库:应用级隔离取代按品牌划分的基础设施。
  • EC2预热池与Bottlerocket:亚分钟级扩展取代AWS Fargate的冷启动。
  • 崩溃可观测性管道:每项服务每月10美元即可实现零数据丢失日志记录和90天的取证分析。
  • 多租户认证的通行密钥:生物识别登录减少重复的短信成本。

解决方案1:共享集群与应用级隔离

随着 OrderServ 从一个品牌扩展到五个品牌,每个租户复制 21 个微服务的成本使经济模型难以持续。我们需要在保留每个品牌所需的数据隔离保证的同时,整合基础设施。

为何放弃专用集群模式

专用集群模式提供了强隔离性但无法实现规模经济。随着平台从五个品牌扩展,新增品牌必须通过配置变更实现,而非基础设施部署。

| 模型 | 优势 | 劣势 | |------|------|------| | 每个品牌专用集群(现状) | 严格的隔离,简单的 AWS 身份和访问管理(IAM) | 成本线性增长,存在空闲容量,新品牌上线缓慢 | | 共享集群(可退出) | 集中式扩展,仅需配置变更即可上线新品牌 | 需要应用层隔离,IAM 范围更广 |

我们选择共享集群作为默认方案,必要时可将高流量品牌部署到专用集群。

图 1 展示了这一转变过程:从五个专用 ECS 集群(105 个服务,315 个 sidecar 容器)演进到单个共享集群,包含 21 个服务,并为高流量品牌保留退出路径。租户库负责处理租户解析、资源路由和上下文传播,而每个租户的数据存储(Amazon DynamoDB、Amazon Aurora、Valkey)则保持严格的数据隔离。

图 1:从每个品牌专用集群演进到共享集群模式(高流量品牌可退出)

该服务使用 AWS 密钥管理服务(AWS KMS)密钥对所有数据存储进行静态加密,架构实现传输层安全协议(TLS)以保护所有服务间及客户端与服务间的通信。Amazon DynamoDB 默认自动加密表。客户在创建 Amazon Aurora 集群和 Amazon 弹性文件系统(Amazon EFS)文件系统时启用加密,并为 Amazon ElastiCache for Valkey 集群配置静态和传输中加密。

租户库作为主要隔离机制

大多数多租户架构在基础设施层面强制隔离:独立账户、独立 IAM 角色或独立计算资源。我们采用不同方案:通过共享的 .NET Core 库作为租户隔离的主要执行点。IAM 和资源策略作为后备机制,用于限制库出现缺陷时的影响范围。

每个请求都携带由 Amazon API Gateway 授权器注入的 X-Tenant-Id 请求头。租户库:

  • 使用请求作用域存储(AsyncLocal<T>)而非静态或单例状态,按请求解析租户上下文。
  • 路由所有数据访问:Amazon DynamoDB 表名、Amazon ElastiCache for Valkey 键前缀、Amazon Aurora 模式选择以及 S3 路径。
  • 拒绝构建无租户前缀的资源 ID,缺少租户上下文时会拒绝访问而非读取其他租户数据。
  • 在服务间调用和异步消息(SQS/SNS 属性)中传播租户上下文。
  • 为每条日志和分布式追踪添加租户 ID。

此设计使相同服务二进制文件在共享集群或专用集群中运行方式完全一致。计算模型成为部署决策而非架构约束。

应用级隔离将隔离边界移至代码层面,而代码本身可能潜在存在缺陷。由于Amazon ECS任务角色是按任务而非按请求授予的,共享集群中的任务必然持有覆盖其服务所有品牌的权限。为缩小权限范围,租户库在运行时获取租户限定的凭证:它通过sts:AssumeRole接口调用,将租户ID作为会话标签,角色策略引用该标签,使凭证仅能访问对应租户的DynamoDB表、S3前缀和Aurora模式。Amazon ElastiCache for Valkey在此基础上增加独立控制层,通过租户级基于角色的访问控制(RBAC)用户限制其访问特定租户的键模式,使得缓存引擎本身会拒绝跨租户的键访问,而非依赖库正确生成键。

影响

下表比较了迁移到共享集群模型前后关键运营指标(服务数量、sidecar开销、上架时间和资源利用率)的变化。

| 指标 | 迁移前(专用集群) | 迁移后(共享集群+库) | |------|------------------|---------------------| | 部署的ECS服务 | 21 × N 个品牌 | 21 个总服务 | | Sidecar容器 | 5个品牌共315个 | 总共63个 | | 新品牌上架 | 完整集群部署(天) | 配置变更(分钟) | | 空闲容量 | 按品牌计算(浪费) | 聚合计算(高效) |

方案2:使用Bottlerocket的EC2预热池实现亚分钟级扩展

随着所有品牌共享单一集群,任一品牌流量激增可能影响其他品牌。我们需要一种能在数秒而非数分钟内吸收突发流量的扩展策略。

为何转向EC2而非AWS Fargate

AWS Fargate虽然消除了基础设施管理,但OrderServ在不可预测的需求激增时需要在不到一分钟内增加容量。新任务需要5-7分钟才能健康运行,主要原因在于Fargate需要先下载并解压工作负载的大型容器镜像才能启动应用。任务分配、应用初始化和健康检查增加了延迟,但镜像获取是最大的延迟来源。在此期间,现有ECS任务会达到饱和,延迟增加,部分订单开始失败。

解决方案:EC2 Auto Scaling组与预热池

我们迁移到了使用Bottlerocket(AWS专为容器设计的操作系统)的Amazon EC2 Auto Scaling组和预热池:

  • 系统预先初始化并停止预热池实例,您只需为Amazon EBS存储(约每实例3美元/月)付费。
  • 当ECS需要容量时,Auto Scaling组(ASG)可在30-60秒内启动已停止的实例(镜像预缓存,ECS代理已注册)。
  • 我们设置了容量缓冲区(目标利用率80%),使第一波扩展能立即响应。
  • Bottlerocket提供原子级自动更新,消除了Amazon EC2的补丁管理负担。

#### 五层扩展策略

我们没有依赖单一扩展机制,而是实现了五个互补的扩展层级,每个层级针对特定流量模式,消除检测与响应之间的空隙。

| 层级 | 机制 | 解决的流量模式 | |------|------|----------------| | 预测性 | ECS预测扩展(机器学习,14天历史) | 日常午餐/晚餐高峰,计划扩展 | | | ASG计划动作处理特定已知事件(新年、圣诞节) | | | 反应性 | 基于ALBRequestCountPerTarget的目标跟踪(60秒) | |

不可预见的中等规模峰值

余量

EC2 ASG 目标容量达到 80%

任何峰值的第一波

下游

ECS 服务连接请求计数指标

瓶颈转移

限流

通过 AWS Lambda 授权器实现 API Gateway 每租户速率限制

极端流量激增(噪声邻居)

图 2 展示了五层扩展层如何与 EC2 预热池协同工作。预初始化的预热池实例可在 30-60 秒内启动,而 AWS Fargate 冷启动需要 5-7 分钟,每台停止实例的月成本约为 3 美元。

图 2:五层扩展策略

成本与性能影响

除了提升扩展性能,从 AWS Fargate 迁移到 Amazon EC2 还降低了在亚太地区(孟买)AWS 区域(ap-south-1)运行 21 项服务的预计月成本。两种工具在此承担不同职责:按需容量预留旨在确保在扩展激活预热池时,可用区有可用容量;计算节省计划提供折扣。预留无期限承诺,可根据舰队变化调整大小或释放,因此以下一年期和三年期仅适用于节省计划。

方案

月成本(21 项服务)

对比 AWS Fargate

AWS Fargate 按需(之前)

约 1568 美元

基准

EC2 ASG 配 1 年计算节省计划 + 预热池

约 832 美元

  • 约降低 47%

EC2 ASG 配 3 年计算节省计划 + 预热池

约 568 美元

  • 约降低 64%

预留覆盖稳态舰队,当您停止预热池实例时,会增加约 30 美元/月的 Amazon EBS 存储成本。扩展时间从 5-7 分钟缩短至 30-60 秒。

解决方案 3:崩溃可观测性管道

当容器在生产环境中崩溃时,支持团队需要三类信息:发生了什么、根本原因,以及崩溃时容器的执行状态。在之前的状态中,OrderServ 使用 awslogs 驱动将容器输出发送到 CloudWatch Logs。虽然这可以捕获正常应用输出,但未能提供持久的任务停止元数据、跨服务请求关联或持久的崩溃痕迹。

  • 崩溃期间最终日志记录可能丢失:当任务突然终止时,仍留在日志驱动程序传输缓冲区中的记录可能无法到达 Amazon CloudWatch Logs。
  • 短暂任务元数据:Amazon ECS 通过 API 提供停止任务信息的时间有限(1 小时),缩短了调查窗口。
  • 无跨服务关联:纯文本日志缺少跟踪 ID 和一致的任务、容器和服务标识符,无法跨服务追踪失败请求。
  • 无持久崩溃痕迹:AWS Fargate 的临时任务存储在任务停止时消失,同时带走本地崩溃转储和诊断文件。

解决方案:FireLens 辅助容器 + Amazon EventBridge 持久化

图3展示了崩溃可观测性管道。应用容器将结构化JSON日志与X-Ray追踪ID发送到FireLens(Fluent Bit)sidecar。该sidecar在容器终止后仍能存活,并将日志路由到具有低频访问类别和30天保留期的CloudWatch Logs,以及具有gzip分区和365天保留期的Amazon S3。Amazon EventBridge捕获包含完整元数据的任务停止事件,而AWS Distro for OpenTelemetry(ADOT)收集器向X-Ray提供自动仪器追踪,EFS跨可用区持久化崩溃转储,每项服务成本约10美元/月。

图3:崩溃可观测性管道。FireLens在容器运行时层面运行,能够存活应用容器崩溃。Amazon EventBridge将任务元数据保留90天

FireLens(Fluent Bit)作为sidecar是关键架构选择。ECS在容器运行时层面将应用容器的标准输出重定向。如果应用容器收到内存溢出(OOM)终止信号,Fluent Bit仍保留日志。

对于应用日志无法充分记录的严重崩溃(堆栈溢出、原生代码故障),.NET Core运行时会自动将小型转储写入Amazon EFS挂载点/tmp/dumps/<container-id>。由于Amazon EFS写入立即持久化且挂载点在容器死亡后仍存在,进程状态(线程调用栈、堆对象、加载模块)有助于在SIGKILL后保留诊断信息。AWS Lambda函数无需VPC访问即可将转储复制到S3进行分析。成本:约0.02美元/月。

Amazon EventBridge到Amazon CloudWatch Logs将完整的Amazon ECS任务状态变更事件保留90天。无需AWS Lambda函数。

每条日志均为包含AWS X-Ray追踪ID的结构化JSON。支持工作流程:搜索错误,找到追踪ID,打开X-Ray,查看跨所有21个服务的完整请求流程。

我们还使用FireLens双输出(CloudWatch + S3)的CloudWatch Logs低频访问类别,使每项服务的可观测性成本降低62%。

成本:完整管道每项服务约10美元/月。

解决方案4:多租户认证的密钥(Passkeys)

QSR移动应用需要即时登录。每一秒的摩擦都会导致订单流失。此前服务依赖短信一次性密码(OTP)进行每次登录,对于数百万月活跃用户意味着显著成本和用户摩擦。

每品牌加密隔离的密钥(Passkeys)

我们使用Amazon Cognito的原生支持实现了密钥(WebAuthn):

  • 首次注册:电话号码+OTP验证身份,然后设备在安全 enclave 注册一个绑定密钥。
  • 每次后续登录:通过面部识别或指纹验证,约2秒完成,无需短信成本。
  • 新设备或过期配置:由于运营商会重新分配电话号码,号码持有被视为声明而非身份证明。在新设备上注册密钥时会重复OTP验证,而最后验证时间早于我们重新验证窗口的配置需要重新验证,才能认可任何已注册凭证。
  • 每品牌隔离:每个品牌使用独立的Cognito用户池,具有在操作系统层面加密隔离的独特依赖方ID。

认证后 Lambda(约 60 行)在 DynamoDB 中维护客户认证资料,通过品牌/租户 ID 和客户电话号码的哈希值作为键。由于品牌 ID 是键的一部分,同一客户在两个品牌下注册会产生两个无关记录,系统在没有品牌上下文时无法定位任何记录。该资料仅存储认证状态,例如已注册设备及每个设备最后验证时间,不包含订单历史、忠诚度余额或其他品牌特定数据。通行密钥凭证通过相同原则实现隔离:由于每个品牌使用不同的依赖方 ID,认证流程可防止将一个品牌注册的凭证用于其他品牌,设备也会强制执行该边界。与 Amazon Cognito 认证逻辑集成需要约 95 行自定义代码。

之前

之后

每次登录成本

约 $0.03(短信 OTP)

$0(通行密钥)

登录延迟

15–30 秒

约 2 秒

短信成本降低

—

稳定状态下降 80%+

防钓鱼能力

无

密码学(设备绑定)

总体结果

架构演进带来了复合式成本节约:

| 维度 | 改进 | |------------------|----------------------------------| | 计算成本 | AWS Fargate 按需 | | | EC2 + 预热池 + ODCR + 计算节省计划 | | | 47–64% 降低 | | 扩展速度 | ~5-7 分钟 | | | 30–60 秒 | | | 5–10 倍加速 | | 可观测性成本 | 标准 CW 日志 | | | IA + FireLens + S3 | | | 62% 降低 | | 认证成本 | 每次登录 SMS OTP | | | 通行密钥 | | | 80%+ 降低 | | 租户上线 | 手动,多日 | | | 配置驱动 | | | 天 → 分钟 | | 崩溃诊断 | “退出代码:1” | | | 完整追踪 + 堆栈追踪 | | | 无可见性 → 完全可见性 |

对于服务超过 5 个品牌的系统,年度综合节约超过先前基础设施成本的 60%,同时提升扩展速度、运营可见性和用户体验。

结论

在本文中,我们展示了 Cognizant OrderServ 如何通过四次架构变更从单租户微服务演进为多租户 SaaS 服务:共享计算与租户库、Amazon EC2 预热池实现亚分钟级扩展、崩溃可观测性流水线,以及通行密钥实现无摩擦认证。该架构通过租户验证、容量冗余、按租户限流和高流量品牌专用集群解决关键故障模式。这些能力带来权衡,包括更高的应用级隔离、EC2 容量管理和计算节省计划承诺。

关键洞察是:多租户无需为每个租户提供基础设施隔离。精心设计的租户库配合严格的资源路由规范,可在共享计算的同时实现应用级隔离,使隔离模型成为部署决策而非架构约束。

如果您在 Amazon ECS 上运营多品牌或多租户服务,并面临成本扩展或流量突增的挑战,可考虑以下模式:

  • 评估您的隔离需求是否真正需要按租户基础设施,或应用级隔离配合按租户数据存储是否足够。
  • 对于不可预测的流量突增,比较 AWS Fargate 过度配置总成本与 EC2 预热池 + 计算节省计划的总成本。
  • 在任何可能发生容器崩溃的环境中,使用 FireLens 旁车进行日志传输。

了解更多,请查阅以下资源:

  • AWS Well-Architected SaaS Lens – 在AWS上构建多租户SaaS架构的最佳实践
  • SaaS租户隔离策略 – 共享池模型和隔离模型中的租户隔离模式,包括基于IAM的运行时策略隔离
  • Amazon ECS文档 – 容器编排和服务连接
  • EC2 Auto Scaling预热池文档 – 配置和成本指导
  • Bottlerocket文档 – 适用于Amazon ECS的容器优化操作系统
  • Amazon ECS上弹性和可用性的最佳实践
  • Let's Architect!构建多租户SaaS系统
  • 联系Cognizant | 合作伙伴概览

作者简介

'" /