算力转向后训练为何缩小开源与闭源差距：蒸馏更易且难检测
maksym_andr · x · 2026-09-15
作者提出一个解释开源权重模型与（公开可得的）专有模型差距缩小的框架：算力重心从预训练转向后训练，而后训练的改进更容易被蒸馏。
- 拥有某领域能力很强的模型，就可以用它来构建该领域的 RL 环境，从而蒸馏出能力
- 这类蒸馏很难检测，因为生成环境与直接输出相比更隐蔽
- 这为「开源正在逼近闭源」的观察提供了机制性解释
所属事件:算力转向后训练，开源闭源模型差距加速缩小(3 条相关)→
「模型」频道最新
- Grok 4.7 再次跳票，2.5T 参数 Grok 4.8 本周完成训练 — eyishazyer · 2026-09-15
- Reddit 用户痛诉 Gemini Flash 3.8 长上下文严重退化：多轮叙事像失忆 — Quenty1 · 2026-09-15
- Ai2 主席预测:美国前沿大厂 18 个月内将连训练数据全开源 — billhilf · 2026-09-15
- 外科智能榜单更新:20余款通用 VLM 全面落后专科模型 — ddonoho · 2026-09-15
- 外科基准不像数学基准:微调小模型为何能登顶专科任务 — ddonoho · 2026-09-15
- Claude Opus 5.2 疑似灰度测试,跳过 5.1 直接上线 Claude Code — Angaisb_ · 2026-09-15