蒸馏未必补得上深度推理
willccbb · x · 2026-07-11
作者不认同“Sonnet 5 只要从更深的模型蒸馏就会很强”这种说法。
他的核心观点是：更深的模型本来就能用更少 token 完成推理；如果让 Sonnet 去模仿这种模式，反而可能学到“跳过内部步骤”的表层行为，导致推理时卡顿或幻觉增多。
「模型」频道最新
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11
- Engram 随机读取不适合 SSD，CPU 内存低延迟共享或成正解 — bookwormengr · 2026-09-11
- RTX 3060 全本地语音助手复刻 GPT Live 官方演示，6 分钟跑完全程 — liampetti · 2026-09-11
- 曝 Meta Muse Agent 内置邀请码逻辑,或携额外免费额度上线 — testingcatalog · 2026-09-11