公司
别名：togetherai
发布ThunderAgent的AI公司
已跟踪 23 条高相关材料
最近变化
2026-08-01 · Kimi K3参数量达2.8万亿，是首个3万亿参数级开源模型
为什么值得关注
Together AI 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Serving MiniMax-M3 for efficient inference: Unlocking 1M-Token Context and Multimodality Without Regrets
Together AI Blog · 8.7 分
Together AI has optimized the deployment of MiniMax M3, a model with 1M-token context and multimodal support, achieving 81–125% throughput...
Kimi K3: The Complete Developer Guide
Together AI Blog · 8.5 分
Kimi K3是首个2.8万亿参数开源模型，支持1M上下文和高效推理，适用于复杂编程与知识工作。
Autoscaling endpoints for LLM inference
Together AI Blog · 8.5 分
Together AI平台通过自适应扩展端点，结合LLM推理特有的指标（如TTFT、GPU利用率），实现更高效的资源管理，减少过量和不足配置的成本。
已收录 23 条与 Together AI 相关的内容，按评分排序。
Together AI优化了MiniMax M3模型的部署，通过架构和工程创新实现81–125%吞吐量提升。
入选理由：MiniMax M3 supports 1M-token context and native multimodality, making it suitable for complex real-world tasks.
ThunderAgent通过优化KV缓存管理，实现单节点吞吐量提升2倍，集群加速2.4倍，解决代理推理中的缓存抖动问题。
入选理由：单节点吞吐量提升2.5倍，P50延迟降低10倍
Together AI平台通过端点/部署/配置三元组与容量感知路由实现模型推理配置，支持零停机变更和流量实验。
入选理由：配置由端点（固定身份）、部署（模型+硬件组合）、配置（运行配方）三部分构成
Together AI与Moonshot AI合作推出2.8T参数开源模型Kimi K3，支持长上下文和视觉任务，开发者可直接通过其平台部署和微调。
入选理由：Kimi K3是当前参数规模最大的开源模型（2.8T），支持1M token上下文窗口。
Together AI平台通过自适应扩展端点，结合LLM推理特有的指标（如TTFT、GPU利用率），实现更高效的资源管理，减少过量和不足配置的成本。
入选理由：选择TTFT和GPU利用率作为指标可有效平衡资源成本
Kimi K3是首个2.8万亿参数开源模型，支持1M上下文和高效推理，适用于复杂编程与知识工作。
入选理由：Kimi K3参数量达2.8万亿，是首个3万亿参数级开源模型
Kimi K3在DeepSWE基准测试中以1/3成本超越Claude Fable 5，多次尝试后性能反超，但后者可靠性更高。
入选理由：Kimi K3单次任务成本仅4.65美元，为Claude Fable 5的1/3
不同可靠性级别（99%、99.9%、99.99%）对应不同的故障域和架构要求，如99%需处理节点级故障，99.9%需跨数据中心部署，99.99%需多区域冗余。
入选理由：99%可靠性需处理GPU硬件故障，依赖自动化健康检查和快速替换
YC初创公司可通过专用GPU集群快速获取计算资源，无需长期合约。Together AI与YC合作解决AI公司算力瓶颈问题。
入选理由：YC初创公司可按需使用GPU，无需签订两年期合同
Together AI推出的新推理平台使用户能高效部署和管理开放权重模型，兼顾控制、成本与性能。
入选理由：开放权重模型成本仅为封闭模型的几分之一，但质量相当。
Kimi K3在软件工程任务中性能与Claude Fable 5相当，但价格仅为后者35%。
入选理由：Kimi K3价格仅为Claude Fable 5的35%但性能相同
Inkling是Thinking Machines Lab推出的多模态模型，支持高效推理和跨任务能力，Together AI提供生产级部署服务。
入选理由：Inkling通过query-conditioned attention和MoE架构实现多模态高效推理
Together AI 获得 ISO 27001:2022 认证，证明其信息安全管理符合国际标准，增强客户对其平台安全性的信任。
入选理由：Together AI 获得 ISO 27001:2022 认证，由 A-LIGN Compliance 和 Security 颁发。
构建高质量、低延迟、可扩展的语音代理已成为工程核心挑战，需解决实时响应（<500ms）、复杂指令处理与工具调用等关键问题，Together AI 提供基础设施支持。
入选理由：语音代理必须在500毫秒内响应，否则用户会挂断电话，实时性是核心指标。
Together AI 通过使用基于 profiles 的 TensorRT 优化其语音转文字堆栈，通过优化解码器循环和改进 CPU 路径，实现了更快的转录速度。他们提供的两个最低延迟模型中，最快的模型可以在不到 10 秒内转录 20 小时的语音。
入选理由：Together AI built the world's fastest speech-to-text stack.
Together推理引擎在编码代理工作负载中比其他开源引擎多提供31%的TPS，并在饱和状态下保持2倍的TTFT优势。性能提升来自全栈优化。
入选理由：ThunderMLA、自定义内核重写和端到端优化使Together引擎比其他OSS引擎多31%的TPS
Together AI 与 Pearl Research Labs 合作，通过 FlashAttention-4、ATLAS 等技术降低 AI 推理成本。
入选理由：FlashAttention-4 提升推理速度达 1.3 倍。
Violin 是 Together AI 推出的开源视频翻译工具，通过多模态模型实现高质量视频内容本地化。
入选理由：Violin 支持多语言视频翻译，提升跨语言内容可访问性。
Together AI 推出了一个新的工具 Voice Finder，帮助开发者从超过 600 种声音中快速找到适合应用的声音。
入选理由：Voice Finder 提供超过 600 种声音选项。
Together AI 推出 DeepSeek-V4 Pro 模型，提供高性能推理和多种计算选项。
入选理由：DeepSeek-V4 Pro 在 NVIDIA Blackwell 上实现 1.3 倍速度提升。
文章介绍了Together AI的多项技术进展，包括FlashAttention-4、ATLAS加速器和Batch Inference API更新，显著提升了大规模推理效率。
入选理由：FlashAttention-4比cuDNN快1.3倍
Y Combinator与Together AI合作建立GPU集群，为初创公司提供更便捷的计算资源，但技术细节和工程实践指导不足。
入选理由：YC与Together AI合作建立首个专用GPU集群，服务8000+客户
GLM-5.2 模型在 Hugging Face 推理服务中可通过多个平台免费使用，但仅限于接下来的 6 小时。
入选理由：GLM-5.2 可通过 Zai、Together AI 等平台在 Hugging Face 免费使用。
