跳到主要内容

将经验沉淀为知识

经验知识库与用户记忆有什么区别?​

  • 共享技术: 两者共享存储、索引与检索技术;
  • 来源不同: 用户记忆从对话、文档和数据集中提取“用户与世界是什么样的”,经验知识库从行动轨迹和结果中提取“在什么条件下应该怎样做”;
  • 验证目标不同: 前者让 Agent 记得更多,后者要求经验在后续任务上显示正向迁移;
  • 对照示例: “该航空公司要求特殊餐食提前二十四小时预订”是领域知识;“订票前先检查特殊餐食截止时间,避免付款后才发现无法满足需求”是行动经验;

为什么原始轨迹不能直接作为知识单元?​

  • 长度与噪声: 原始轨迹既长又嘈杂,包含工具原始输出、偶然的绕路和环境细节;
  • 归因风险: 单次成功可能来自偶然,单次失败可能来自网络故障;
  • 结论: 记录动作与整理知识必须分开,学习发生在“评价、对照、归纳、验证”之后(见持续进化的定义与边界);

稳定的经验学习应保留哪三层数据?​

层内容可变性用途
原始轨迹动作、观察、环境结果不可变审计与复核
单次运行分析本次成败与经验草案可追加归纳的输入
知识文档面向未来的 Markdown 文档可修订检索与应用
  • 文档字段: 正式文档通常写清适用场景、推荐策略、禁止做法、例外条件、证据来源与最近验证时间;
  • 不写什么: 不复述某一次任务的完整过程;

为什么必须先保存证据、再离线生成知识?​

  • 同构设计: 与用户记忆的 “User as Code” 采用相同的两阶段思路——先把对话事实追加到不可变日志,再周期性重建结构化用户模型;
  • 好处一: 避免一次偶发成功或网络故障立即改变 Agent;
  • 好处二: 使系统能在看到多条成功和失败之后再判断共性;
  • 素材来源: 抽取算法(抽取、聚类、检索)见第三章; 这里的重点是轨迹评价如何成为抽取条件;

知识提炼管道分成哪五步?​

  1. 保存不可变轨迹和环境结果;
  2. 为单次运行生成结构化分析,列出任务类型、所需能力、观察到的策略、错误与例外;
  3. 按任务族聚合同类运行,为每条经验草案建立“哪些轨迹支持、哪些轨迹反驳”的证据表;
  4. 只有达到支持门槛的草案才写入正式文档;
  5. 在未参与提炼的新任务上测试迁移效果;
  • 门槛的作用: 支持与反驳并列,才可能区分“经验被推翻”与“适用条件发生变化”;

有迁移价值的经验来自什么?​

  • 核心: 对照——同类成功轨迹做了什么,失败轨迹缺少什么;
  • 条件化: 某种策略在哪些环境版本中有效,在哪些前置条件下失效;
  • 轨迹分工: 成功轨迹贡献策略草案;失败轨迹贡献排除性知识;部分成功轨迹帮助识别“哪一段有效、哪一段仍有问题”;

自然语言反思在提炼中的位置是什么?​

  • 可参与: Reflexion 式的自然语言反思可以参与生成经验草案;
  • 边界: 反思本身不是证据;
  • 准入条件: 只有与环境结果相符、得到跨轨迹支持并在新任务上显示正向迁移的内容,才应进入正式经验文档;
  • 环境示例: GAIA 包含需综合搜索、网页阅读、文件处理和计算的多步骤问题,扮演“试卷”;AWorld 提供运行 Agent、调用工具与保存轨迹的执行环境,扮演“考场与实验记录系统”;
  • 做法对比: 旧式做法在任务成功后立刻生成策略摘要并向量化入库;更严格的实现先用答案验证或其他环境验证器标记成功、部分成功与失败,再比较同一任务族的多条路径;