谷歌发布睡眠框架，让大模型在部署后持续学习新知识

主流大语言模型预训练完成后便进入静态部署状态，知识存在截止日期；依赖上下文学习会让新信息随会话结束丢失，直接微调又易引发灾难性遗忘。谷歌研究团队发布睡眠框架持续学习成果，借鉴人类睡眠的记忆巩固机制，将模型运行分为清醒与睡眠两阶段：清醒时暂存短期记忆，睡眠时进行记忆整合与自我改进。记忆巩固环节通过参数扩展、混合专家记忆块和知识蒸馏，把短期信息写入长期参数；做梦环节让模型生成合成训练样本并反复练习，提升推理与泛化能力。实验显示，该框架在持续翻译、数学推理等任务中优于多种基线，可处理最长约 1000 万 token 上下文，在未见语言的持续学习中性能下降接近零，并在 AIME 24/25 数学基准上取得更高准确率。