SFT 数据通常从哪三条路来?
- 人工专家示范: 质量天花板最高,但贵且慢,适合用来定义格式与风格的“种子数据”;
- 教师模型生成: 即合成数据,让强模型批量产出“输入—输出”对,过滤后再蒸馏给学生;
- 拒绝采样: 模型自己对同一问题采样多条候选,用验证器筛出正确样本再反过来训练自己;
- 组合使用: 人工示范定义格式与边界,教师模型放大规模,规则验证或人工抽检守住质量;
数据合成的流水线长什么样?
- 目标: 不是复述线上日志,而是从日志中提炼可复用的任务结构;
- 任务结构元素: 用户意图、初始状态、可用工具、业务约束、常见失败方式、成功条件;
- 脱敏与重建: 去除身份信息后,为每种任务重新生成虚构人物、订单、文件和状态,放进可重置的隔离环境,既保留真实难点,也避免模型记住客户数据或内部凭据;
- 流水线: 线上数据 → 任务蓝图 → 合成任务 → 多次候选轨迹 → 任务验证与轨迹验证 → SFT 数据;
- 任务验证: 检查题目本身是否可完成、难度是否合适、参考结果是否正确;
- 轨迹验证: 检查最终状态、工具调用和业务约束;
- 验证器优先级: 能写成单元测试、数据库断言或状态差异检查的条件优先用确定性代码;开放式的沟通质量由模型评价器补充,并用人工抽样校准;
- 扩展手段: 技能图、可执行环境和独立验证器可以扩大任务覆盖并过滤无效轨迹;
同一套任务设施如何同时服务 SFT 与 RL?
- SFT 用法: 只保留验证通过的成功轨迹,学习稳定的格式、流程和基本动作;
- RL 用法: 让当前策略重新 rollout,利用环境奖励探索示范之外的路径;
- 失败轨迹: 不应直接当作正确示范,可以用来构造偏好对、发现任务覆盖缺口,或补上诊断与修复后再加入训练;
数据量与数据划分要注意什么?
- 数量不是关键: 数千到数万条高质量样本通常就足以固化输出格式;
- 质量优先: 与其堆十万条脏数据,不如精修一万条干净数据——数据里的每一处噪声,SFT 都可能忠实地写进参数;
- 划分: 按任务模板、客户或时间段去重划分,评估集必须来自不重叠的任务类型;
- 隔离: 参考解法、隐藏测试和验证器反馈不能泄露给模型;
问题案例应该转成哪种训练数据?
- 原则: 生产问题案例不应被“记住”,而应用来定义模型需要改进的决策边界;
- 用途: 截取决策边界的轨迹前缀可构造 DPO 偏好对或决策边界示范,而不是直接当作正确的 SFT 轨迹;
- 元数据: 失败原因、适用条件和验证器应随样本保存,方便追溯和复查;
- 完整链路(归因 → 端到端与轨迹前缀回归任务 → DPO 偏好对 → 边界集与保留集验证)见从问题案例到训练数据;
两个合成案例分别训练什么能力?
- 作用域敏感的最小编辑: 把用户反馈提炼成文档 Skill,再用结构化合成数据做 SFT,正例覆盖中文段落、嵌套引用与代码注释中的中文自然语言,反例覆盖英文原文、字符串字面量、JSON、路径、行内代码与整段代码;测“该改才改、该留则留”;
- byte-exact 复制: 把
old_string mismatch 转成逐字复制任务,只对目标字符串或 old_string JSON 字段提供逐 token 监督,测“必须逐字复制”;
- 共同点: 共享失败归因与训练/评估隔离协议,但评分标准不同,详见从问题案例到训练数据;