Tell your model when to think harder

TL;DR · AI 摘要
Visual Studio 18.9新增模型思考深度调节功能,通过分级控制AI推理强度优化资源消耗。
核心要点
- Low级别适合日常代码建议,消耗AI信用最少
- High级别用于复杂问题,消耗信用增加3倍
- 模型管理界面新增思考强度列可实时调整
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- 模型思考深度调节
- 功能价值
- 节省AI信用
- 提升回答精准度
- 实施方式
- 五级调节系统
- 模型管理界面
- 使用场景
- 日常编码
- 复杂架构设计
金句 / Highlights
值得收藏与分享的关键句。
Low级别消耗的AI信用是High级别的1/3,适合处理简单问题
模型管理界面新增独立列显示思考强度设置选项
Max级别仅限部分模型使用,提供最深度的推理能力
告诉你的模型何时需要更深入思考 - Visual Studio 博客
并非每个问题都需要同等程度的思考。重命名变量与调试内存泄漏完全不同,它们不需要同等水平的思考。那么为什么每次都要让模型以相同的方式处理它们呢?
从 Visual Studio 18.9 Insiders 2 开始,这种情况将得到改变。现在支持的模型都配备了思考力度控制功能,当遇到真正复杂的问题时,你可以提高推理水平;当问题简单时,也可以降低推理强度。这是一个小调节器,却能带来显著效果:更匹配的答案,以及对消耗 AI 积分的更精确控制。
一个调节器,而非开关
思考力度正如其名:模型在回答问题前进行的推理深度。它以一组命名级别呈现,具体可选级别取决于所使用的模型。
每个级别对应的功能如下:
- 低 - 快速响应,推理最少。适合简单问题和日常代码建议,消耗的 AI 积分更少。
- 中 - 推理与速度平衡,通常是默认设置。适合常规编码任务。
- 高 - 深度推理,用于解决复杂问题。当面对棘手算法、架构决策或顽固的 bug 时,应选择此级别。
- 超高和最大 - 部分模型提供的最高推理级别,用于解决最复杂的问题,确保模型不会遗漏任何可能的解决方案。
可选级别取决于所选模型,因此你看到的列表会根据模型实际支持的功能进行定制。少数模型根本不提供思考力度控制,这也是可以接受的:它们会显示破折号并保持原有工作方式。
在你已熟悉的界面中设置
设置过程非常快捷。打开模型选择器,点击“管理模型”以打开扩展的模型管理窗口,然后从那里调整每个模型的思考级别。
在管理视图中,思考力度位于自己的列中,与每个模型的功能、上下文大小和成本并列。因此,你现在可以在这个你原本用于比较模型的界面中,调整模型的思考方式。选择一个模型,快速查看其功能和成本,然后设置它应投入的思考力度,所有操作只需一次操作即可完成。
在真正需要的地方使用你的积分
这是长时间工作后累积效果最明显的一部分。更高的思考级别会进行更多推理,消耗更多积分;更低的级别则消耗更少。当你将思考力度级别与任务匹配时,可以避免为简单问题消耗不必要的积分。
这意味着你可以将模型保持在“低”级别处理正常会话中数十个小型请求,然后在真正需要解决的难题时将其提升到“高”级别。使用同一个模型、同一次对话,每次都能获得恰到好处的思考深度。你的使用预算将得到更有效的利用,而你决定这些积分的使用方向。
立即尝试
思考力度是一个低调但影响深远的功能,它改变了日常使用体验:简单问题不再需要等待,复杂问题则能获得更深入的解答。它位于模型管理视图中,该视图的功能远不止这个设置。如需全面了解,可查看选择、管理并充分利用你的模型。
现在即可在 Visual Studio 18.9 Insiders 2 或更高版本中尝试,欢迎告诉我们你的使用体验。
更多内容即将推出!
.entry-content
AI 免责声明
AI 辅助内容。
本文部分内容由 AI 协助创作,作者已根据需要对内容进行了审核和修改。
了解更多 /think