用生产 traces 做自蒸馏,让模型越用越强
ypatil125 · x · 2026-08-04
这条在讲一个把线上使用反馈回流到训练的思路:作者认为模型应该随着使用变得更好,而 self-distillation 正是利用真实生产 traces 和用户反馈,让训练闭环真正跑起来。
核心观点有两点:
- 生产环境里的 traces 含有丰富反馈,但这些信号往往没有进入训练管线。
- 训练和推理会越来越连在一起,不再是完全割裂的两个阶段。
帖子最后还提到,平台 AC2 已经原生支持 OPSD 和 RMSD,并放出了一段预览,属于方法观点加产品实现的结合。
「应用」频道最新
- 加上消费控制后,智能体已能较好代买下单 — kevinfee · 2026-08-04
- AI agents 越像助手,人类可能越不习惯和真人协作 — deliprao · 2026-08-04
- DraftedAI 秒生成户型图、3D 设计和 CAD/BIM 导出 — brianrkelly · 2026-08-04
- Google 向 Pro 用户开放 Notebook Agent:研究、图表、文档都能做 — tokumin · 2026-08-04
- 设计师用 Cola 把手绘插图做成婚礼邀请函 — oran_ge · 2026-08-04
- Alisha Outridge 办 5 小时 AI 黑客松,目标是做出 MVP 并拿到用户计划 — AlishaOutridge · 2026-08-04