语言模型在对话里看过一段资料，并不等于以后还能记住。上下文窗口是临时工作空间，更新模型参数又可能干扰已有能力。Google Research 10 月 27 日介绍的 Sleep 框架，尝试把读取新信息和整理知识分成两个阶段；对应论文此前已公开，本次不是一篇刚发表的新论文。
活跃阶段先用快速短期记忆吸收当前内容。进入所谓“睡眠”阶段后，系统暂停接收新输入，把短期行为蒸馏进容量更大的参数记忆。方法结合沿模型自身输出路径进行的蒸馏与模仿学习，并利用低秩或专家模块组织更新。另一个“做梦”过程产生合成练习，经筛选与强化学习继续巩固。这里的睡眠是训练安排的比喻，不是模型产生意识，也不是自动重写整套学习程序。
论文给出了知识吸收和数学等任务的实验。以 Qwen3-8B 为基础、按每题 16 次采样计算平均正确率的数学评测中，Sleep 在 AIME 2024 上报告 79.2%，对照的 on-policy distillation 为 76.6%；AIME 2025 对应 69.0% 与 67.4%。增益来自特定基座、训练和采样条件。正文还有去除模仿或经验学习的消融，但不同设置并非每个指标都同向改善，不能把几组结果扩大成解决长期遗忘的通用结论。