T
traeai
登录

概念

PagedAttention

一种内存优化技术,用于高效管理LLM推理中的KV Cache,减少显存碎片。

已跟踪 1 条高相关材料

TraeAI 观察

最近变化

2026-05-29 · 是石科技通过全域异构算力池+深度国产芯片适配(昇腾/昆仑芯等),使闲置国产卡转化为稳定Token产能

为什么值得关注

PagedAttention 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。

Token经济国产AI芯片大模型推理是石科技算力调度

相关材料

已收录 1 条与 PagedAttention 相关的内容,按评分排序。

清华系团队给大模型织了一张“智能算力电网”

清华系团队给大模型织了一张“智能算力电网”

量子位2087 字 (约 9 分钟)
92

是石科技构建智能算力电网,整合国产异构芯片,实测单位Token成本降40%、吞吐提30%-50%,达成99.9%高可用,实现从算力资源到标准化Token产能的跃迁。

入选理由:是石科技通过全域异构算力池+深度国产芯片适配(昇腾/昆仑芯等),使闲置国产卡转化为稳定Token产能

精选文章#大模型推理#国产AI芯片#算力调度#是石科技#Token经济中文

跨材料问答 · PagedAttention

回答基于:PagedAttention 相关 1 条材料
    0 / 500

    AI 可能会生成不准确的信息,请核实重要内容