在AWS上进行基础模型训练与推理的核心构建模块
AWS 提供了支持大规模基础模型训练与推理的完整技术栈,涵盖高性能计算、网络、存储及开源软件集成,适配 NVIDIA 提出的“三大缩放定律”。
入选理由:NVIDIA 的三大缩放定律包括预训练、后训练(如 SFT 和 RL)和推理时计算,需统一基础设施支持。
公司
别名:Amazon
提供云计算服务的科技公司
已跟踪 30 条高相关材料
最近变化
2026-11-18 · AWS AutoCorrode套件通过MCP协议连接AI与Isabelle证明助手,实现证明生成与验证的实时交互
为什么值得关注
AWS 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
在AWS上进行基础模型训练与推理的核心构建模块
AI HOT 精选 · 9.2 分
AWS 提供了支持大规模基础模型训练与推理的完整技术栈,涵盖高性能计算、网络、存储及开源软件集成,适配 NVIDIA 提出的“三大缩放定律”。
AI Dev 26 x SF | Marc Brooker: It's Time to Be Right
DeepLearning.AI · 8.7 分
Marc Brooker断言:Agentic AI 的落地规模取决于缺陷率,而非模型能力上限;把缺陷频率×严重性降到“低×低”才是解锁万亿美元市场的关键。
Claude Platform on AWS 正式上线 和已有的 Claude on Amazon Bedrock 并行存在,两者并非升级关系,是两条不同定位的产品线: 服务运营方: · Anthr...
meng shao(@shao__meng) · 8.7 分
Claude Platform on AWS 正式上线,与 Bedrock 并行存在,提供原生 Claude API 全功能、AWS 认证与计费整合,适用于需最新能力且接受数据离境的客户;而 Bedrock 仍适合严格数据驻留场景。
已收录 30 条与 AWS 相关的内容,按评分排序。
AWS 提供了支持大规模基础模型训练与推理的完整技术栈,涵盖高性能计算、网络、存储及开源软件集成,适配 NVIDIA 提出的“三大缩放定律”。
入选理由:NVIDIA 的三大缩放定律包括预训练、后训练(如 SFT 和 RL)和推理时计算,需统一基础设施支持。
Marc Brooker 断言:Agentic AI 的落地规模取决于缺陷率,而非模型能力上限;把缺陷频率×严重性降到“低×低”才是解锁万亿美元市场的关键。
入选理由:缺陷率每降 1%,Agent 可覆盖的知识工作场景呈指数级扩大
Claude Platform on AWS 正式上线,与 Bedrock 并行,提供原生功能与 AWS 生态融合,适用于需最新能力且接受数据离境的客户。
入选理由:Claude Platform on AWS 与原生 API 功能100%对齐,新功能Day-One同步上线。
Joyn 从单节点架构演进到基于 AWS 的多区域无服务器架构,通过 Hub and Spoke 模式保障数据一致性,采用单元化隔离降低故障影响范围,并实现高性价比的 active-active 多区域部署。
入选理由:采用 Hub and Spoke 架构确保跨区域数据一致性,中心 Hub 管理全局状态。
AWS 推出 EC2 Capacity Blocks for ML 和 SageMaker Training Plans,帮助用户以折扣价格预留短期 GPU 资源,适用于负载测试、模型验证等临时性任务。
入选理由:EC2 Capacity Blocks 提供 40-50% 折扣并保障短期 GPU 资源可用。
KIKO Milano 通过迁移到 Vercel,彻底消除黑五前手动扩容的繁琐流程,实现自动伸缩、构建时间缩短 75%、每日多次部署,将运维负担转化为专注用户体验的敏捷能力。
入选理由:迁移到 Vercel 消除了黑五前 3 周的手动基础设施准备时间。
本文为工程师提供了一份90天SOC 2 Type II合规实施的详细路线图,涵盖范围界定、14项关键控制措施、自动化证据收集基础设施搭建及审计准备,避免常见延误陷阱。
入选理由:正确界定SOC 2范围可节省60天以上工作量,避免将开发环境等非生产系统纳入。
AI通过与形式化证明工具协作,成功解决数学问题并避免幻觉。AWS发布AutoCorrode工具套件,结合Isabelle证明助手实现AI生成与验证的闭环。
入选理由:AWS AutoCorrode套件通过MCP协议连接AI与Isabelle证明助手,实现证明生成与验证的实时交互
Artex作为AI驱动的渗透测试工具,使黑客能快速发起攻击,威胁企业与政府系统。
入选理由:Artex将攻击时间从数天缩短至数小时,提升攻击效率
AWS更新架构框架,新增生成式AI、资源效率测量等最佳实践,并调整分类方式以提高审查效率。
入选理由:AWS将框架分为Cloud Foundations和Cloud Workloads,提升审查效率。
AWS Bedrock 知识库新增表格搜索功能,支持从 CSV、XLSX 等文件中提取数据并进行计算,提升复杂问题的解答能力。
入选理由:表格搜索功能支持从 CSV、XLSX、XLS 文件中提取数据并进行计算。
AWS 通过 Amazon Bedrock Managed Knowledge Base 的检索指令功能,实现按租户定制答案,提升多租户场景下的灵活性和一致性。
入选理由:Amazon Bedrock 的检索指令功能允许按租户定制答案风格、格式和检索策略。
AWS Nitro Sandboxes 通过一个字段实现 EKS Pod 的隔离,提升安全性与性能。
入选理由:AWS Nitro Sandboxes 通过 runtimeClassName 字段实现 EKS Pod 的隔离。
AWS联合NVIDIA推出基于NeMo Switchyard的智能路由方案,通过LiteLLM实现编码代理请求的模型动态分配,显著降低任务成本。
入选理由:使用Stage routing和Random routing策略可降低30%以上任务成本
AWS官方博客展示如何通过CUR 2.0和Budgets实现按IAM主体追踪并限制Amazon Bedrock支出,无需自定义代码。
入选理由:使用AWS CUR 2.0和Budgets可自动实现Bedrock支出追踪与限制,无需编写应用代码
Amazon Bedrock推理成本受缓存时长、服务层级、推理强度和maxTokens影响,需根据模型特性优化配置。
入选理由:Anthropic模型5分钟缓存写入成本是输入费率的1.25倍,1小时写入是2倍
Natera通过Amazon Bedrock AgentCore构建SWARM系统,使实验室设备故障响应速度提升130倍,自动化覆盖率超96%。
入选理由:SWARM系统实现130倍的故障响应速度提升
AWS推出SGLang-Neuron插件,支持在Trainium芯片上高效部署前沿AI模型,结合PyTorch和Neuron技术提升性能。
入选理由:SGLang-Neuron通过PyTorch和NKI内核实现Trainium芯片的高效模型执行
AWS的Tiros工具通过数学方法每小时验证网络隔离,确保配置符合安全规范。
入选理由:Tiros每小时分析AWS Cloud WAN网络拓扑,提供数学证明确保隔离符合规范。
AWS的Keto Specification Analyzer项目通过形式化方法检测规范中的矛盾,提升代码生成准确性。
入选理由:20-40%的模糊提示会导致LLM生成代码准确率下降
Kimi K3.1 Pro Highspeed模型在Amazon Bedrock上线,提供更高的生成速度和专业任务优化。
入选理由:Kimi K3.1 Pro Highspeed生成速度是原版的2-3倍
Red Hat OpenShift 5通过引入agentic applied AI和Lightspeed功能,实现跨混合云的自主运维,同时保持人工控制关键决策。
入选理由:Red Hat OpenShift Lightspeed将AI从对话助手升级为可执行集群变更的代理
LangChain本周更新包括异步子代理、Stagehand在MDA测试中胜出及LangSmith BYOC支持AWS/Azure/GCP。
入选理由:异步子代理实现用户交互与后台任务并行处理
AWS通过无服务器MCP服务器实现AI代理对企业数据湖的高效访问,减少重复代码并提升扩展性。
入选理由:使用JSON元数据文件自动发现新数据集,无需编写定制代码
Amazon Quick通过分解代理工作为四个问题定义了统一的原语,解决了系统设计中的术语混乱问题。
入选理由:触发器分为四类:人工启动、代理委托、定时和事件驱动
AWS推出Continuum工具,通过沙箱验证代码漏洞并提供修复方案,定价分上下文和推理费用两部分。
入选理由:Continuum通过隔离沙箱验证漏洞可执行性,降低误报率。
Elastic Security在Elastic Cloud Serverless上正式可用,提供AI驱动的安全分析,降低总拥有成本(TCO),支持AWS等云平台。
入选理由:Elastic Cloud Serverless提供全托管解决方案,降低总拥有成本(TCO)
亚马逊使用VLM和CatBoost分类器结合OCR信号,提升A+内容质量评估,使卖家销售提升8-20%。
入选理由:VLM可将电商内容渲染为完整快照进行整体评估
AWS推出Web Answer工具,将搜索-合成-引用流程整合为单次请求,提升AgentCore开发效率。
入选理由:Web Answer通过单次API调用完成搜索、合成和引用,减少80%开发工作量
生产AI代理通过四层上下文工程优化性能,Deep Insight实现减少95% token使用和97%系统提示加载。
入选理由:四层上下文工程可减少95%脚本token消耗,97%系统提示加载