宝玉(@dotey)

主会话 + Thread 的模式,优化好的话 Token 消耗其实还好。 首先主会话反而不需要特别强的模型,Sonnet 5.5 这个级别都够用了,因为它的主要职责是甄别和路由,或者说调度。 就跟...

8.5内容质量
主会话 + Thread 的模式,优化好的话 Token 消耗其实还好。

首先主会话反而不需要特别强的模型,Sonnet 5.5 这个级别都够用了,因为它的主要职责是甄别和路由,或者说调度。

就跟...

TL;DR · AI 摘要

主会话与 Thread 模式结合,通过合理调度模型和使用缓存策略,可有效降低 Token 消耗。

核心要点

  • 主会话使用 Sonnet 5.5 级别模型已足够,因其主要负责甄别和调度。
  • Thread 应使用更强的模型(如 Opus 5.5)来完成具体任务。
  • Prompt Caching 策略可优化缓存利用率,减少 Token 消耗。

结构提纲

按章节快速跳转。

  1. 主会话与 Thread 模式结合,通过合理调度模型和使用缓存策略,可有效降低 Token 消耗。

  2. 主会话使用 Sonnet 5.5 级别模型已足够,因其主要负责甄别和调度。

  3. Thread 应使用更强的模型(如 Opus 5.5)来完成具体任务。

  4. Prompt Caching 策略可优化缓存利用率,减少 Token 消耗。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 主会话与 Thread 模式优化
    • 主会话模型选择
      • Sonnet 5.5 级别模型
      • 负责甄别和调度
    • Thread 模型选择
      • Opus 5.5 级别模型
      • 完成具体任务
    • Prompt Caching 策略
      • 优化缓存利用率
      • 减少 Token 消耗

金句 / Highlights

值得收藏与分享的关键句。

#AI#模型调度#Token 消耗#Prompt Caching
打开原文

宝玉 on X: "主会话 + Thread 的模式,优化好的话 Token 消耗其实还好。 首先主会话反而不需要特别强的模型,Sonnet 5.5 这个级别都够用了,因为它的主要职责是甄别和路由,或者说调度。 就跟公司前台一样,你不需要招一个专家,只要知道什么任务该找谁。 主会话里面很多任务都可以让 Thread 去完成,反倒是 Thread 应该用相对强一些的模型。当然更科学的办法是主会话在调度的时候根据任务难度去选择合适的模型。 比如我在用 Claude Project 的时候,主会话是 Sonnet 5.5,子任务是 Opus 5.5。 另外就是 Prompt Cachin… / X

宝玉

@dotey

$

/$

Show translation

主会话 + Thread 的模式,优化好的话 Token 消耗其实还好。 首先主会话反而不需要特别强的模型,Sonnet 5.5 这个级别都够用了,因为它的主要职责是甄别和路由,或者说调度。 就跟公司前台一样,你不需要招一个专家,只要知道什么任务该找谁。 主会话里面很多任务都可以让 Thread 去完成,反倒是 Thread 应该用相对强一些的模型。当然更科学的办法是主会话在调度的时候根据任务难度去选择合适的模型。 比如我在用 Claude Project 的时候,主会话是 Sonnet 5.5,子任务是 Opus 5.5。 另外就是 Prompt Caching 的利用。 像主会话这种,特点是偶尔来个消息,很难利用好缓存,所以缓存如果过期了,不应该跟把所有历史会话和工具调用都发过去,而是只把最新的几条消息记录发过去,再配合 Session 的检索工具,可以很容易的收集齐上下文。 而对于 Thread,则是像传统的 Session 会话,会集中时间有很多对话,通常 Cache 利用率很高,但是也可能会出现缓存过期后又来新的消息,所以最佳策略是在缓存快过期的时候,比如 50 分钟(如果缓存一个小时的话)的时候,压缩一下上下文。

Gary Zhang

@GaryZhang124

3h

问题是,Grok bot这个如果走单主会话的交互太耗额度了。

Quote

Nov 14

无论是 Grokbot / Dots 那样一个主会话,还是 Claude Code 那样一堆 Session 都是不够好的。 只有主会话意味着子任务你无法干预细节,无法像 Session 那样看到执行的细节,不方便去补充上下文和干预。

2:59 AM · Nov 16, 2026

·

13K

Views

79

8

67

58