AWS Machine Learning Blog

Serverless MCP server for AI agent data lake access on Amazon ECS Fargate

8.5内容质量
Serverless MCP server for AI agent data lake access on Amazon ECS Fargate

TL;DR · AI 摘要

AWS通过无服务器MCP服务器实现AI代理对企业数据湖的高效访问,减少重复代码并提升扩展性。

核心要点

  • 使用JSON元数据文件自动发现新数据集,无需编写定制代码
  • MCP服务器实现中央权限控制,统一管理数据访问审计
  • 分层架构设计支持多租户环境下的弹性扩展

结构提纲

按章节快速跳转。

  1. AI应用面临数据湖访问重复集成的挑战,AWS通过MCP服务器提供解决方案

  2. 现有方案导致代码碎片化、权限控制分散、新数据源接入耗时

  3. 实现配置驱动访问、工具接口统一、集中权限控制和弹性扩展

  4. 基于ECS Fargate的无服务器架构分层处理数据湖访问请求

  5. 客户端、MCP服务器、工具层和知识库刷新层四层独立扩展架构

  6. 新数据集接入时间从多天缩短至自动同步,权限控制集中化

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 无服务器MCP服务器架构
    • 问题挑战
      • 代码碎片化
      • 权限分散
      • 接入耗时
    • 解决方案
      • JSON元数据驱动
      • 中央权限控制
      • 分层弹性架构
    • 技术实现
      • Amazon ECS Fargate
      • 多租户支持

金句 / Highlights

值得收藏与分享的关键句。

#AWS#Serverless#MCP#数据湖#AI代理
打开原文

用于AI代理访问数据湖的无服务器MCP服务器在Amazon ECS Fargate上的实现 | 人工智能

用于AI代理访问数据湖的无服务器MCP服务器在Amazon ECS Fargate上的实现

构建由人工智能(AI)驱动的应用程序的组织面临着一个反复出现的挑战:在不重复每个代理和应用程序的集成逻辑的情况下,为大型语言模型(LLM)代理提供访问企业数据湖的权限。大多数团队最初会直接将代理连接到数据库和API,中间没有像模型上下文协议(MCP)服务器这样的共享网关。每个新数据集都需要自定义代码,每个代理都需要重新实现自己的访问控制。随着数据集或代理数量的增长,权限执行会出现偏差,而新增数据源的接入通常需要多天的工程工作。

我们团队支持亚马逊北美分拣中心(NASC)网络,该网络的规划团队依赖运营数据来管理容量、劳动力和包裹流量。为了使这些团队能够通过对话方式访问这些数据,我们基于Amazon弹性容器服务(Amazon ECS)和AWS Fargate构建了一个无服务器的模型上下文协议(MCP)服务器,以解决NASC规划团队的这一问题。该服务器在AI代理与企业数据湖之间充当集中式、与代理无关的网关。新增数据集只需一个JSON元数据文件,服务器会在下一次流水线同步时自动发现该文件。

在本文中,我们将描述该架构,展示基于元数据的方法如何消除针对每个数据集的集成代码需求,并解释无服务器基础设施如何在多租户环境中支持多个代理和应用程序。

问题陈述与设计目标

系统设计的两个相互关联的挑战塑造了我们的解决方案:碎片化的数据访问模式和不可持续的数据源接入模式。

扩展规模时的集成挑战

我们的数据湖包含数千个数据集,涵盖运营指标、商业分析和领域特定数据。多个团队希望拥有能够通过对话查询这些数据的AI助手,但每个团队都从零开始构建自己的集成。每个代理都嵌入了自己的SQL生成逻辑、模式知识和连接处理,因此模式变更意味着需要单独修补每个代理。访问控制是碎片化的,没有单一的审计点用于数据访问决策。新增数据集需要自定义工具代码、查询验证和重新部署,通常每个表都需要多天时间。

设计目标

我们设定了四个要求:

  • 基于配置的数据湖访问。添加数据集只需一个元数据文件,而不需要编写代码。
  • 与代理无关的工具接口。任何兼容MCP的客户端都可以调用相同的工具。
  • 集中化的权限执行。访问控制在MCP服务器层执行。
  • 弹性的基础设施。系统能够根据突发的AI工作负载模式进行扩展。

架构将关注点划分为四个独立可扩展和部署的层级(客户端、MCP服务器、工具和知识库刷新层)。工具层下设有元数据目录,用于存储表结构描述、列级语义和表关系信息,这些信息在AI代理生成SQL时会被引用。由于代理在查询时会从目录中动态获取模式信息,因此无需硬编码表结构或在模式变更时重新部署。知识库刷新层负责保持该目录的最新状态,对新到达的数据集元数据进行索引。以下章节将详细描述各层级的实现细节。

架构解析

下图展示了从用户查询到数据层的完整请求流程。用户通过客户端应用(网页聊天、Slack、IDE插件或外部代理)提交查询请求。请求首先通过Amazon Route 53进行DNS解析,到达配置了HTTPS和AWS WAF的公共子网中的应用负载均衡器。负载均衡器将流量路由至Amazon Cognito进行用户认证并丰富请求上下文。认证后的流量进入私有子网,客户端层基于Amazon ECS Fargate运行,通过Amazon DynamoDB处理会话状态,并通过内部应用负载均衡器将请求转发至MCP服务器层(同样基于Amazon ECS Fargate)。在MCP服务器层,由Amazon Bedrock驱动的AI代理协调基于FastMCP框架(用于构建MCP服务器的Python框架)开发的工具。Amazon Bedrock Guardrails会对所有模型交互进行防护。右侧的数据层包含工具后端,Amazon Athena和Amazon Redshift在数据湖上执行SQL查询,而Amazon Bedrock Knowledge Bases(全托管的检索增强生成RAG能力)负责语义搜索。数据通过AWS Lambda被摄入Amazon S3和知识库中。后续章节将对各层级进行详细说明。

图1:请求通过无服务器MCP服务器的流程,从客户端应用到数据层

MCP客户端层:认证与会话管理

请求从客户端应用经Amazon Route 53进行DNS解析,到达配置了HTTPS和AWS WAF的应用负载均衡器。负载均衡器将流量转发至集成Amazon Cognito(用于JSON网络令牌JWT认证)和Amazon DynamoDB(用于会话存储)的Amazon ECS Fargate客户端服务。

上下文映射配置驱动了这一过程,将每个查询限定在相关表范围内。在我们的测试中,这种限定将端到端交互延迟控制在15-20秒范围内。以下示例展示了上下文映射配置:

code
{
  "package_data": {
    "description": "Package tracking and delivery information",
    "tables": ["analytics_db.regional_order_summary", "operations_gold.load_summary"],
    "sources": {"wiki": [], "quip": []}
  },
  "labor_planning": {
    "description": "Workforce management and capacity planning",
    "tables": ["workforce.capacity_details"],
    "sources": {"wiki": [], "quip": []}
  }
}

当上下文指定表时,MCP服务器会将元数据目录的搜索范围限定在这些表上,减少噪声并提高SQL生成准确性。添加新的业务领域只需向此映射添加条目即可。

MCP 服务器层:无状态执行与对话状态

MCP 服务器运行在独立的 ECS Fargate 集群中,与客户端层隔离。请求通过 Amazon Route 53 和私有子网中的内部应用负载均衡器到达服务器。服务器负责完整的工作流编排,包括查询分析、工具选择、执行和响应生成。通过 MCP 协议端点(/mcp)提供的 FastMCP 驱动 JSON-RPC 接口,外部兼容的 MCP 客户端(如 Amazon Q Developer 或 IDE 插件)可直接发现并调用工具。

Fargate 任务本身无状态,对话状态通过 DynamoDB 持久化存储,因此任务可被替换或扩展而不会丢失数据。当请求到达时,代理会检索会话历史,使用 Amazon Bedrock 分析用户意图,发现并调用合适的工具,然后将结果流式传输回用户。

工具层与元数据驱动的数据湖访问

每个工具均通过 FastMCP 注册并在运行时可被发现:

| 序号 | 工具名称 | 后端 | 功能说明 | |------|----------------------|--------------------|------------------------------------| | 1 | SQL 查询工具 | Amazon Athena | Amazon Redshift | 对数据湖和 Redshift 中任意配置数据集执行 SQL 查询 | | 2 | 文档与元数据搜索 | Amazon Bedrock 知识库 | 对内部文档、表元数据和团队维基进行语义搜索 | | 3 | 策略搜索 | 搜索运营政策和标准流程 | |

Athena 查询工具是访问数据湖的主要接口。代理首先查询元数据目录以了解可用模式,通过 Amazon Bedrock 生成优化的 SQL 查询,验证并自动修正 SQL 以兼容 Athena,然后执行查询。结果流式传输回协调代理进行自然语言合成。

负责任的 AI 控制

Amazon Bedrock Guardrails 应用于所有 LLM 交互,旨在过滤有害内容、执行接地检查并阻止提示注入尝试。这些防护机制在 MCP 服务器层作为生产控制运行,因此所有连接的代理无论通过何种方式连接均可享受相同的内容安全策略。Athena 查询工具强制仅执行 SELECT 查询,在工具层面拒绝写操作,防止其到达数据湖。

知识库刷新层:通过单个 JSON 文件实现数据集上线

整个系统围绕配置驱动的可扩展性构建。添加新数据集仅需一个描述表结构的元数据 JSON 文件,以及可选的上下文映射条目。该文件捕获表的模式、业务上下文和列级语义,作为 AI 代理理解和查询数据集的单一可信来源:

code
{
  "database_service_name": "athena",
  "database_name": "analytics_db",
  "table_name": "regional_order_summary",
  "business_description_for_the_table": "按区域划分的订单历史记录,包含发货状态和配送绩效数据。仅包含已完成且包含配送数据的订单。每日更新。在Athena SQL中,与时间戳列进行比较时,始终使用date()包裹字符串字面量。",
  "column_details": {
    "order_id [varchar]": {
      "description": "结账时分配的唯一订单标识符。",
      "sample_values": ["ORD-20250115-001234", "ORD-20250116-005678"]
    },
    "order_date [timestamp(3)]": {
      "description": "订单下单的日期和时间。使用此列进行时间范围筛选。",
      "sample_values": ["2025-01-15 08:00:00.000", "2025-01-16 12:30:00.000"]
    },
    "warehouse_id [varchar]": {
      "description": "处理订单的履约中心。",
      "sample_values": ["FC-EAST-07", "FC-WEST-03", "FC-SOUTH-12"]
    }
  },
  "load_type": "增量更新(更新最近7天数据)",
  "refresh_frequency": "UTC时间每天早上6:00",
  "table_size": "~2.1B行",
  "creation_time": "2024-03-15",
  "last_refresh_time": "2025-05-20T06:00:00Z"
}

business_description_for_the_table字段包含特定于引擎的查询提示,例如“始终使用date()包裹字符串字面量”,这可以减少SQL验证失败的情况。column_details字段将每个column_name [type]与自然语言描述和示例值配对,使代理既了解模式结构又理解业务语义。sample_values字段对WHERE子句的准确生成至关重要,因为代理可以学习真实数据模式,例如warehouse_id存储的是类似FC-EAST-07的代码而不是“东区设施”这样的完整名称。

该流水线会获取元数据文件,使用Amazon Titan Text Embeddings生成向量嵌入,并将其索引到Amazon Bedrock知识库中。一旦完成索引,所有连接的代理都可以发现该表,无需手动重新索引或重启服务器。

为了提高特定应用的准确性,工程师可以可选地将数据集与业务上下文相关联。这会缩小搜索范围,使代理优先选择正确的表。以下示例展示了上下文映射条目:

code
{
  "delivery_metrics": {
    "description": "配送准确性和缺陷归因数据",
    "tables": ["analytics_db.customer_orders_summary"],
    "sources": {"wiki": [], "quip": []}
  }
}

如果没有指定上下文,代理将搜索所有已索引的表。上下文映射通过限制搜索空间来减少延迟并提高SQL准确性。这种范围限定是可选的,可以在任何时候添加,而无需修改元数据文件本身。

综合示例:实际查询过程

当用户提问“我们上个月的10笔最高价值订单是什么?”时,客户端会用业务上下文丰富请求以缩小范围。代理将问题转换为向量嵌入,搜索元数据目录以匹配模式,并通过轻量级LLM调用选择最相关的表。

使用选定的模式、列描述和特定于引擎的查询提示,代理会生成类似以下的SQL语句:

code
SELECT order_id, customer_id, total_amount, order_date
FROM analytics_db.regional_order_summary
WHERE order_date >= date_add('month', -1, current_date)
ORDER BY total_amount DESC
LIMIT 10

SQL 会经过引擎兼容性验证并自动纠正,然后在 Amazon Athena 上执行。代理将结果格式化为自然语言响应,并流式传输回用户。在我们的测试中,这种端到端流程可在 15-20 秒内完成。

相同的编排机制不仅限于纯 SQL。由于文档搜索在服务器上注册为另一个工具,代理可以在单次交互中回答涉及结构化和非结构化数据源的问题,例如“我们第四季度的退货率是多少,产品团队的分析对根本原因有什么说法?”对于该请求,代理会运行 Athena 查询获取退货率数据,并对知识库进行文档搜索获取分析内容,然后将两者整合成一个响应。

安全性和多租户访问

这种单次交互的编排机制之所以可行,是因为所有工具调用都经过相同的受控网关。架构采用分层安全机制而非单一控制点。MCP 服务器运行在内部应用负载均衡器后的私有子网中,无法从互联网访问。只有位于公共应用负载均衡器(带 AWS WAF)后的客户端层可以向其路由请求。Amazon Cognito 在客户端层验证用户身份,仅允许携带有效令牌的认证请求继续传递。在工具层面,Athena 查询工具强制执行仅 SELECT 查询,阻止任何写操作到达数据湖。所有工具调用都会以结构化 JSON 格式记录到 Amazon CloudWatch,为安全团队提供跨所有代理和应用的数据访问统一审计点。该架构可在 Amazon Bedrock 和 Amazon Bedrock Knowledge Bases 可用的 AWS 区域中使用。

这种集中式设计也使服务器具备多租户能力。由于标准化的 /mcp 端点可接受任何兼容 MCP 的客户端(无论使用哪种 LLM 或编排框架),多个代理可以共享相同的工具和访问控制策略。添加新代理只需指向服务器端点,因此为其他团队扩展系统时不会削弱或重复安全模型。

无服务器基础设施与扩展

每一层都通过适合其工作负载模式的机制进行扩展:

| 层 | 扩展机制 | 触发条件 | |---|---|---| | 客户端(ECS Fargate) | ECS 服务自动扩展 | CPU 使用率(50% 阈值) | | MCP 服务器(ECS Fargate) | CPU/内存使用率 | | | Athena | 无服务器(自动) | 查询并发数 | | Amazon Bedrock | 管理服务扩展 | 推理请求 |

Amazon ECS Fargate 提供无需管理 EC2 实例的无服务器计算。下游服务(Athena、Bedrock)会自动扩展,因此系统无需配置更改即可处理单个查询或数百个并发查询。

用例与扩展

该架构支持超越基础问答的多种模式。企业知识助手可以结合数据湖查询与文档搜索,回答涉及结构化数据和非结构化知识的复杂问题,例如“我们第四季度的退货率是多少,产品团队的分析对根本原因有什么说法?”内部分析助手可以让业务用户通过自然语言查询数据湖,无需编写 SQL,依靠元数据描述和查询提示引导代理生成准确且高效的查询模式。

标准化的 /mcp 端点还支持多代理工作流程。多个专注于数据分析、文档检索和操作预警的专用代理可以共享同一个 MCP 服务器,所有代理均通过通用协议访问完整的工具套件。新团队的数据接入遵循相同的配置驱动模式。他们只需添加一个元数据 JSON 文件,即可在一次管道同步周期内让数据集被所有连接的代理和应用程序发现。

结论

基于 Amazon ECS Fargate 的集中式 MCP 服务器为 AI 代理与企业数据湖之间提供了可扩展且安全的网关。元数据驱动方法消除了针对每个数据集的集成代码需求,而 Model Context Protocol 标准意味着任何兼容的 MCP 客户端都可以无需自定义适配器直接连接。

关键架构决策在于将工具层与代理层分离。代理的演进速度很快,但数据访问模式应比任何单个代理实现具有更长的生命周期。将可扩展性视为配置问题而非代码问题,能够显著加速新团队的接入流程。

了解更多内容,请参阅 Amazon ECS on AWS Fargate、Amazon Bedrock、Amazon Bedrock Knowledge Bases 用户指南、Amazon Athena 以及 Model Context Protocol 规范。

后续计划

我们正在从两个方向扩展该架构。首先,实现更细粒度的访问控制,允许表所有者按权限组标记敏感列,代理会自动在生成 SQL 时排除这些列,而无需修改提示内容。

其次,构建反馈闭环机制,当查询失败或产生低置信度结果时,系统将捕获失败模式,并提供针对性建议用于改进列描述或添加查询提示。

作者简介

'\"'