慢请求,而非失败:自适应对冲请求如何将p99延迟降低74%
自适应对冲请求可将p99延迟降低74%,其核心是用实时学习的延迟分布动态触发对冲,而非静态阈值或重试;DDSketch实现O(1)内存量化估算,配合令牌桶限流防止负载雪崩。
入选理由:在100个下游服务、各1%慢请求率的扇出架构中,63%的顶层请求会被至少一个慢请求拖累,导致单服务健康指标失真。
公司
别名:InfoQ Media
技术新闻资讯平台
已跟踪 30 条高相关材料
最近变化
2026-11-17 · Qwik 2.0用<script>块替代HTML注释标记,使HTML注释数量从60降至0
为什么值得关注
InfoQ 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Article: Stragglers, Not Failures: How Adaptive Hedged Requests Reduce p99 Latency by 74 Percent
InfoQ · 9.2 分
自适应对冲请求(Adaptive Hedged Requests)可将p99延迟降低74%,其核心是用实时学习的延迟分布动态触发对冲,而非静态阈值或重试;DDSketch实现O(1)内存量化估算,配合令牌桶限流防止负载雪崩。
Article: Why Vector Search Alone Isn't Enough: Hybrid Retrieval for RAG
InfoQ · 9 分
仅靠向量搜索无法满足生产级RAG需求,必须结合BM25与RRF实现混合检索以提升精确度。
Qwik 2.0 RC: Replaces HTML Comment Markers for Faster Reactivity and Out-of-Order Streaming
InfoQ · 8.5 分
Qwik 2.0通过移除HTML注释标记和引入无序流式传输,实现更高效的响应式渲染与性能优化。
已收录 30 条与 InfoQ 相关的内容,按评分排序。
自适应对冲请求可将p99延迟降低74%,其核心是用实时学习的延迟分布动态触发对冲,而非静态阈值或重试;DDSketch实现O(1)内存量化估算,配合令牌桶限流防止负载雪崩。
入选理由:在100个下游服务、各1%慢请求率的扇出架构中,63%的顶层请求会被至少一个慢请求拖累,导致单服务健康指标失真。
仅靠向量搜索无法满足生产级RAG需求,必须结合BM25与RRF实现混合检索以提升精确度。
入选理由:向量搜索擅长语义相似但无法精确匹配版本号、错误码等实体。
.NET 11发布C# 15联合类型、Native AOT CLI Host及MAUI默认使用CoreCLR,显著提升开发效率与性能。
入选理由:C# 15引入联合类型,通过编译器检查确保模式匹配完整性
Qwik 2.0通过移除HTML注释标记和引入无序流式传输,实现更高效的响应式渲染与性能优化。
入选理由:Qwik 2.0用<script>块替代HTML注释标记,使HTML注释数量从60降至0
治理自主智能在关键任务公用事业中实现安全与效率的平衡,通过明确的政策边界和工具网关确保AI操作合规。
入选理由:治理自主智能平台通过确定性策略边界确保AI操作不越权。
微软推出Azure Logic Apps Standard本地CLI预览版,支持本地开发、测试和调试工作流,无需Visual Studio Code。
入选理由:Azure CLI 2.67.0及以上版本自动安装logicapp扩展
本文汇总了2026年11月初Java生态的多个重要更新,涵盖TornadoVM、A2A Java SDK、Open Liberty等项目的新版本和功能改进,为开发者提供最新技术动态。
入选理由:TornadoVM 8.1.0支持跨库设备内存操作,无需数据复制
企业级身份管理需作为架构核心设计,超越认证涉及数据模型、图数据库应用及撤销流程优化。
入选理由:初始设计阶段需让身份影响数据模型,图数据库可将访问查询效率提升至单次遍历。
AWS推出Continuum工具,通过沙箱验证代码漏洞并提供修复方案,定价分上下文和推理费用两部分。
入选理由:Continuum通过隔离沙箱验证漏洞可执行性,降低误报率。
移动应用性能提升50%靠后端网关优化,影子迁移模式实现零停机迁移,依赖矩阵分类决定系统容错能力。
入选理由:后端网关处理响应聚合使页面渲染时间减半,网络请求从5-7次降至1次
软件架构需平衡技术设计与组织文化,架构师应作为教练而非全职专家,AI可处理高波动领域但需人工监督。
入选理由:架构师应建立系统护栏和架构健康函数,而非直接参与开发
自主AI架构中,上下文工程比提示工程更重要,需独立管理上下文、记忆和知识。
入选理由:上下文作为控制平面能提升系统可靠性,需管理who/what/why数据
Uber通过归一化计算单元(NCUs)解决有状态工作负载的CPU分配问题,提升资源利用率。
入选理由:不同CPU核心性能差异可达2倍,传统分配方式导致资源浪费或不足
Spring Batch可通过关系数据库实现分布式处理而无需消息代理,适合中小团队的横向扩展需求。
入选理由:使用关系数据库作为协调平面可替代消息代理实现分布式Spring Batch
Zod 4.5通过in-process schema compilation实现验证速度3-9倍提升,内存占用减少9倍,4.6版本进一步优化性能并修复内存泄漏问题。
入选理由:z.compile()使验证速度提升3-9倍,内存占用从7.5KB降至784字节
软件价值取决于交付速度,开发、部署、运营需差异化管理,人员成本远超计算成本且常被低估。
入选理由:快速发布周期比领导层认知的更重要,能减少生产环境故障损失。
形式化方法能通过属性验证和状态空间分析,在系统开发前发现关键架构缺陷,无需依赖复杂数学工具。
入选理由:使用'对抗性非确定性'模型可模拟并发场景下的边缘故障
Spotify通过AI加速开发使代码变更量翻倍,但面临质量控制挑战,引入Honk工具并优化流程应对风险。
入选理由:Spotify AI辅助开发使每月代码变更量从8100增至17000
React 19.3 新增 browser() API,通过 Suspense 机制实现客户端专用组件的优雅退出,解决 SSR 渲染冲突问题。
入选理由:browser() API 使组件在 SSR 时暂停渲染,避免 hydration mismatch
Shopify通过迁移到Preact和Polaris Web组件,将Checkout Blocks捆绑包体积减少85%,并强制要求使用2026-01版本API。
入选理由:迁移后支付图标扩展体积缩小84.4%,达到64KB gzip限制
TanStack Charts 是首个框架无关的 TypeScript 可视化语法库,采用 Leland Wilkinson 语法传统,支持 16 万周下载量,通过 AI 编码代理开发。
入选理由:TanStack Charts 采用语法传统,允许组合 marks 和 scales 构建图表而非预定义类型
pnpm 12用Rust重写,安装速度提升60%以上,同时兼容旧版工作流。
入选理由:Rust重写使pnpm 12安装速度提升60%(清洁安装从8.2秒降至5秒)
AI时代需平衡自动化与人工审查,通过智能筛选降低认知债务,保持知识反馈循环完整性。
入选理由:低风险PR可跳过人工评审,AI审批可提升团队速度30%以上(需团队规模<15人)
Anthropic工程师分享LLMs在事件响应中的实践:AI擅长日志分析但难以判断因果关系,需与人类专家协作。
入选理由:LLMs可处理90%的常规日志分析任务,但无法替代人类判断因果关系
系统理解是演化架构的关键特性,AI生成代码需主动维护团队对系统的共享认知。
入选理由:AI生成代码使系统理解必须在生成前主动维护,而非依赖审查。
自主数据产品通过封装数据管道和元数据,结合MCP协议解决GenAI时代的数据治理难题,提升架构可扩展性与安全性。
入选理由:自主数据产品封装数据管道、模式和元数据,实现容器化管理
通过OpenTelemetry追踪用户行为数据,可蒸馏前沿模型能力至本地SLMs,构建更高效的语言服务器协议。
入选理由:使用OpenTelemetry可捕获用户对代码修复的交互行为(接受/拒绝/重生成)
平台团队需通过沟通、可衡量价值和情感共鸣推动平台采用,结合DORA指标与叙事策略提升业务与开发者的接受度。
入选理由:使用DORA指标量化平台价值,如部署频率、恢复时间等关键指标
AT协议基础设施可构建更健壮的本地优先应用,减少对特定后端的依赖。
入选理由:使用PDS替代App View可提升应用韧性,避免单点故障
Slack引入基于AI代理的端到端测试方法,提升动态系统测试的弹性,通过意图驱动的自适应执行降低维护成本。
入选理由:AI代理通过动态路径选择适应UI变化,减少测试失败率