https://t.co/CuxhcNmG3w

mem0在X上的推文：https://t.co/CuxhcNmG3w / X

mem0

@mem0ai

$

为什么代理开始"做梦"（以及什么是"做梦"）？

长期运行的代理会随着时间推移越来越差地记住事实。

在对话过程中，随着上下文窗口逐渐被填满，特别是在处理长期任务时，代理会不断提取事实并写入其记忆存储库，而没有任何机制会清理这个存储库。

几周后，相同的偏好会以四种不同方式被保存，上个月的决定仍然与这个月的相矛盾，每次搜索现在都会返回一堆半过时、半重复的条目。存储库会随着规模增长而逐渐失去检索能力，这与记忆应有的功能完全相反。

为了解决这个问题，我们借鉴了生物学和日常生活中的现象：做梦。

我们的大脑全天都在记录信息，并在睡眠中重新组织，保留重要信息，让其余部分逐渐淡去。现在代理也运行了类似的过程——在没有请求等待时执行的后台计划任务，对记忆存储库进行整理。

本文将探讨：什么是做梦？为什么需要做梦？AI实验室如何实现？以及Mem0的"做梦"功能介绍。

代理记忆退化的原因

根本原因在于结构设计，具体体现在提取操作的执行时机。记忆是在对话过程中实时写入的，处于模型生成回答的热路径上。为了保持速度，提取器仅从一个很小的窗口获取信息：当前对话内容，加上检索偶然拉取的几个相似记忆。它永远看不到存储库的其余部分。

这个小窗口隐藏了整个类别的问题。例如用户在3月份提到他们住在里斯本，而今天说他们搬到了柏林。除非旧的里斯本记忆恰好出现在当前上下文中，否则提取器根本不知道它的存在，因此会写入"住在柏林"，而让"住在里斯本"的记录继续存在，现在搜索会同时返回这两条记录。同样的盲点会产生重复记录（同一事实用略有不同的措辞保存），也会错过需要同时阅读数十条记录才能发现的模式。记忆是否冗余、过时或相互矛盾，这是整个存储库的属性，而提取操作只能看到其中的一小部分。更精确的提取无法弥补这个差距，因为决定性信息不在窗口范围内。

这个问题在软件领域其他地方早已解决。任何严肃的数据系统都不会在延迟压力下尝试在写入时进行协调。它们接受快速写入，并在后台进行后续压缩：LSM存储库运行压缩，PostgreSQL运行VACUUM，git执行垃圾回收。代理记忆系统只实现了快速写入路径，却跳过了后台处理。"做梦"就是那个缺失的后台处理，现在终于被安排执行了。

"做梦"的实际含义

"做梦"是一个在空闲时间运行的计划任务，执行写入路径无法完成的协调工作。

实际上它执行三个操作：将陈述相同事实的记忆合并为一条；当新记忆取代旧事实时，用最新信息覆盖旧信息，使当前事实在下次搜索中胜出；以及通过阅读相关条目集群，生成它们隐含的更高层次记忆（就像多个小观察最终得出一个结论）。

一个分支值得关注，因为同一个词现在涵盖了两种截然不同的概念。一些系统在权重层进行操作，将模型学到的内容重新折叠回参数中，这意味着需要重新训练。另一些系统则在存储层工作，在模型保持冻结的状态下，直接重写数据库中的记忆记录。

目前所有可投入生产的系统都属于存储层，因为它通过重新组织数据而非重新训练模型来实现，而本文正是围绕这一版本展开讨论。

AI实验室的实现方式

@OpenAI将其整合到ChatGPT中

ChatGPT不会搜索你的聊天历史。它会持续生成你的身份摘要，并在每次对话中注入上下文，这种方式虽然快速但存在脆弱性：静态摘要会随着事实积累、过时以及多年对话中出现的矛盾而逐渐失效。

2026年6月，@OpenAI重建了该摘要的维护方式，并将其命名为Dreaming（OpenAI）。现在有一个后台进程会遍历你的聊天历史并自主重写个人资料，无需手动保存，甚至允许事实随着时间自行修正：例如"7月要去新加坡"会在旅行结束后变为"2026年7月去了新加坡"。

@OpenAI报告称，新架构使内部事实回忆率从41.5%提升至82.8%（基于未公开的评估数据），应将其视为趋势而非绝对证明。这一趋势揭示了核心结论：全球使用最广泛的AI产品认为，记忆问题的解决方案是进行一次清理操作，而非扩大上下文窗口。

@AnthropicAI将其整合到其代理系统中

早在数周前，@AnthropicAI就将Dreaming功能添加到Claude Managed Agents中，该功能面向开发者而非普通用户。

这是一个定时执行的进程，"会审查代理会话和记忆存储，提取模式并整理记忆，使代理系统随时间不断改进"（Anthropic）。它会合并重复项并淘汰过时记录，由于能同时处理整个代理集群，可以发现单个代理无法察觉的模式：多个代理反复犯下的错误、所有代理趋同的工作流程、团队成员共享的偏好。

你可以决定是自动提交更改，还是先将更改提交给人类审核。法律AI公司Harvey报告称，当其代理系统能够在会话间传递这些学习成果后，任务完成率提高了约6倍。

@Google将其整合到平台中

@Google从基础设施层面切入。其Gemini代理平台推出了Memory Bank功能，可自动为每个用户身份生成并维护持久的长期记忆，这些记忆会跨会话保留（Google Cloud）。

与@OpenAI和@AnthropicAI描述的激进会话间协调不同，Google更侧重于构建和检索干净的记忆，但目标一致：在系统扩展时保持记忆的可用性，而非任其无序扩张。

研究发现

这些产品源于2026年的研究浪潮，论文中达成的共识超越了隐喻层面。

@Google的论文《Language Models Need Sleep》属于权重层案例。睡眠阶段会将上下文知识整合到模型参数中，而梦境阶段则通过强化学习让模型生成自己的合成训练数据（Behrouz等）。该方法有效，但需要训练，这也是目前仍停留在实验室的原因。

Auto-Dreamer 是最接近实际生产环境中部署的系统。它基于认知科学中的快速捕捉与缓慢整合分离机制构建，将内存区域设为只读，检查每条记录及其来源，然后生成一个紧凑的替代集合以取代原始内容，所有操作均通过任务成功率进行端到端训练（Ye 等人）。关键价值在于：它在 ScienceWorld 测试中比最强基线模型的内存库小 12 倍的情况下提升了 7 分，并且无需重新训练即可迁移到新任务。清理内存不仅节省了 token，还使智能体更擅长完成任务。

另外两篇论文聚焦于遗忘机制——这是从业者最不信任的部分。SCM 提出一种类人睡眠阶段模型和基于价值的遗忘机制，报告称在不损失记忆召回能力的前提下将内存噪声降低了约 91%（SCM）。SleepGate 针对一种称为前瞻性干扰的失败模式——过时记录淹没正确答案——引入睡眠周期机制，标记被替代的事实、清除冗余信息并合并有效内容（SleepGate）。

不同团队、不同层级的研究得出一致结论：记忆召回能力最强的系统并非存储最多信息的系统。它们通过整合、有意遗忘和标记被替代事实来实现优化。

@mem0ai 的实现方式

@mem0ai 将该机制作为名为 "Dream" 的功能实现，其约束条件与其他方案略有不同：从不真正删除任何内容。

它执行前述三种操作：

• 合并：将重复项折叠为单一规范记忆
• 替代：标记过时事实并链接至新版本，使类似"里斯本-柏林"案例能解析为当前答案"居住在柏林"，同时保留历史记录供查询
• 合成：将相关记忆集群提炼为更高阶记忆，并保留指向所有原始来源的指针，这与 Auto-Dreamer 研究发现的溯源价值一致

其独特之处在于：所有变更都以可读、可追溯并可撤销的差异形式呈现，而非静默覆盖；所有合成记忆均明确标注来源。这比听起来更重要：没有审计追踪的后台数据重写不是功能，而是数据静默丢失的隐患。所有操作均不在关键路径运行：合并与替代在写入时实时执行，合成则按计划周期运行，确保实时添加和搜索操作保持原有速度。

在 Mem0 的生产数据中，中位活跃项目包含数百条相互重复或矛盾的记忆，每次调用都会检索并计费。这就是 Dream 要解决的混乱场景。该功能在 Pro 版本每周运行一次，在 Enterprise 版本每日运行，仅在用户积累足够记忆形成可识别模式时才会触发。

尚未解决的问题

当事实变更时，旧版本应该消失还是作为历史记录保留？@OpenAI 倾向于彻底重写；@mem0ai 保留历史轨迹并允许只查看当前版本，目前尚无证据表明哪种方式能带来更好的记忆召回效果。

合成机制本身也存在核心矛盾：梦境生成的摘要本身是争夺相同检索位置的新记忆，因此过于激进的整合反而会损害召回效果。此外，执行频率尚未确定：大脑每晚运行一次，而产品方案从写入时到每周不等，合适的间隔显然取决于具体工作负载。

所有这些变化背后其实很简单。多年来，“让代理记住更多信息”意味着更大的存储空间和更长的上下文窗口。Dreaming（梦境）这一概念表明，更大的存储空间并不等于更好的记忆。真正有效的记忆是随着增长而变得更为清晰的记忆，这正是睡眠对我们的作用。

参考文献

OpenAI：Dreaming，更高效的ChatGPT记忆（2026年6月）

Anthropic：Claude Managed Agents新功能，梦境、成果与多代理编排（2026年5月）

Google Cloud：Gemini Enterprise Agent Platform，记忆库

Park等：Generative Agents，人类行为的交互式模拟（arXiv:2304.03442）

Behrouz等：语言模型需要睡眠（arXiv:2606.03979）

Ye等：Auto-Dreamer，语言代理的离线记忆巩固学习（arXiv:2605.20616）

SCM：面向大语言模型的睡眠巩固记忆与算法遗忘（arXiv:2604.20943）

学习遗忘：基于睡眠启发的记忆巩固解决前瞻性干扰（arXiv:2603.14517）

Mem0：Dream

/$

下午2:58 · 2026年8月6日

14.2K

浏览量

8

27

204

264