Agent 为什么会陷入“零样本很强、长期不变强”的悖论？
- 现象: Agent 可以零样本解决从未见过的复杂任务，却可能在处理一万次相似任务后第二天仍犯第一天的错误;
- 持续学习（continual learning）: 模型上岗后能否像新员工一样从日常经验中不断长进;
- 与早年研究的区别: 早年持续学习研究关心“学了新任务就忘掉旧任务”，遗忘只是今天的子问题;
- 更难的缺口: 没有人告诉模型，今天这一天的经历里哪些做对了、哪些做错了;
- 现状判断: 模型自身的持续学习能力远远不够，因此需要把“学习”构建成模型外围的自主系统;
为什么部署后的模型不会自动变强？
- 参数冻结: 部署后的模型不会因为一次推理而改变参数;
- 上下文适应: 上下文学习、状态维护与压缩能让 Agent 在当前任务内适应;
- 持久性缺口: 上下文结束后，这种变化不会自然进入下一次任务;
- 记忆的误用: 把对话存进记忆不等于学会新行为，原始轨迹可能很长，其中既有有效策略，也有偶然成功、错误归因和不可信输入;
保存经历与从经历中学习差在哪里？
- 区分: 保存经历不等于从经历中学习;
- 检索不等于学习: 把一百条轨迹放进长上下文或向量库，只能帮助需要时找回某个案例;
- 缺少的环节: 跨案例比较——哪些步骤在成功轨迹中反复出现、哪些做法只在旧版接口上有效、某次成功究竟来自正确策略还是环境偶然;
- 发生时机: 学习发生在系统主动完成“评价、对照、归纳、验证”之后，而不是日志写入磁盘的那一刻;
- 检索的代价: 检索错误与知识冲突会抵消学习收益，规模增长本身不产生迁移;
经验学习与用户记忆的分工是什么？
| 维度 | 用户记忆 | 经验学习 |
|---|
| 沉淀内容 | 用户与世界是什么样的 | 在什么条件下应该怎样行动 |
| 主要来源 | 用户对话、文档、数据集 | Agent 的行动轨迹与环境结果 |
| 效果 | 让 Agent 记得更多 | 让它从聪明变得熟练 |
- 共享基础: 两者共享存储、索引与检索技术，正是这部分技术让“记得多”与“做得熟”常被混为一谈;
为什么不让模型在每次任务后直接训练自己？
- 信号脏: 生产环境很少提供干净的学习信号，用户满意不意味着合规;
- 内伤: 局部参数更新可能造成能力遗忘、策略漂移或安全退化;
- 攻击固化: 若依据未经验证的反馈直接改参数，错误经验和提示注入会被固化并在后续任务中持续放大;
- 时效缺口: 基础模型的周期性训练能提升通用能力，却无法及时吸收每个 Agent 每天遇到的私有规则、工具变化和局部经验;
- 结论: 在模型自身尚不能可靠持续学习时，必须先把学习做成模型外围的自主系统;
持续进化系统的定义与边界是什么？
- 定义（持续进化）: 模型外围的自主学习系统，用于区别于权重层面的持续学习;
- 职责链条: 记录运行证据 → 验证结果与过程 → 从多条轨迹提取共性 → 决定应更新知识、指令、程序还是模型参数;
- 发布纪律: 所有修改先形成待验证版本，经过回归测试和安全检查后，才能改变下一轮运行;
- 三个必要条件: 以可追溯的运行经验为基础; 能够改变后续行为; 经过验证确保没有造成明显退化;
持续进化复用了哪些既有部件？
| 部件来源 | 提供的能力 | 在闭环中的位置 |
|---|
| 任务内状态管理 | 上下文、状态维护与压缩 | 在线执行 |
| 知识基础设施 | 知识的抽取、索引与检索 | 经验知识库 |
| 元能力 | 创造工具、修改系统 | 程序与 Harness 更新 |
| 评估与验证 | 判断一次运行的好坏 | 学习信号 |
| 后训练 | 更新模型参数 | 高维能力内化 |
- 框架来源: 上下文适应、外部产物更新、参数更新的划分与可回滚程度排序见三条学习路径;
- 定位: 持续进化是“外部产物更新”这一路径的系统展开;