研究者质疑:OpenAI 中等推理档无法防蒸馏,防了也没用
adam_karvonen · x · 2026-11-22
研究者 Adam Karvonen 认为 OpenAI 的反蒸馏博客文章是个大事:按其说法,在中档推理强度(大多数人日常使用的档位)下,OpenAI 没有任何办法阻止蒸馏、保护自家产品;他们只能限制很少人使用的高推理档。配图为 SEC-bench Pro 数据: exact reasoning traces(精确推理轨迹)在 RL 后随推理预算提升明显优于 fine-tuning(最高约 38% vs 13%),而 reasoning summaries 蒸馏后效果差得多——说明防蒸馏措施对摘要式蒸馏几乎无能为力。
所属事件:研究者称 OpenAI 中档推理无法防蒸馏(2 条相关)→
「模型」频道最新
- Claude 预测:AI 五年内将攻克数学证明与电池新材料 — alex_verem · 2026-11-22
- OpenAI 发布 MedChemBench,称 GPT-6.2 Astra 无工具单次完成分子重建 — heypearlai · 2026-11-22
- 9B 模型跑出 59 tok/s:SenseNova-Loop-9B 在 16GB 显卡实测 — AIFlow_ML · 2026-11-22
- Anthropic 15亿美元版权和解未付款,被索赔每本书涨到2万 — TuhinChakr · 2026-11-22
- 16-32GB 内存能跑的本地模型,2025 年底追平闭源 SOTA 了吗 — AnimalPuzzleheaded71 · 2026-11-22
- 英伟达研究称超长上下文是死路,摘要+关键词检索更省钱 — The Decoder · 2026-11-22