从动机到数据到评测:工程师长文拆解企业级 post-training 全流程
ziv_ravid · x · 2026-11-19
工程师 zivravid 发布长推线程,系统整理在公司内部做模型 post-training(fine-tuning、蒸馏、RL 等)的方法论,按顺序覆盖四个问题:为什么做、怎么测、用什么数据、用什么模型。
- 要不要自己做:先回答「为什么不直接交给 OpenAI」——更便宜、更快、数据不能出域、或认为自有数据在特定任务上表现更好。
- 评测最优先:作者强调应把大部分时间投入 eval,先手动翻阅真实生产任务数据、培养手感,再定义指标。
- 数据选型:最有用的是真实活动 traces(用户会话、agent 运行、工具调用、人工对输出的修改),标签可以很稀疏,如每步只记「用户是否采纳/修改/重开工单」;同时保留一小组通用能力集,防止训练提升目标任务却破坏其他能力。
- 训练前验证:用「技能蒸馏」预检——从 traces 中提取技能集(手动或自动)放入现有模型 context 重跑 eval,确认所测指标确有大幅提升空间。
一份可落地的企业 post-training 实操路线图。
所属事件:工程师长文拆解企业级模型 post-training 全流程(2 条相关)→
「编程与Agent」频道最新
- Hermes 适配器实战演示:35 次工具调用解出基础模型搞砸的 SWE-Bench Pro 任务 — yb2698 · 2026-11-19
- NousResearch 发布 Qwen3.8-27B Hermes 适配器:SWE-Bench Pro 29.4%→43.1%,token 省 3.5 倍 — yb2698 · 2026-11-19
- 一条 EBS gp3 命令让 Weaviate 千万向量索引查询性能提升 26 倍 — philipvollet · 2026-11-19
- Human Principal 开启内测:用密码学证明 AI agent 背后是真人 — yenkel · 2026-11-19
- 纯代码生成 3D 场景:GPT-6.2 十几分钟搭出深海文明小城 — OpenAIDevs · 2026-11-19
- 设计师被当「室内装修工」:taste.md 只管美学不管架构是头猪涂口红 — round · 2026-11-19