Fleuret：训练的全部理论细节，我们真搞懂了吗？
francoisfleuret · x · 2026-09-09
前 Meta 研究科学家 François Fleuret 质疑'我们已理解训练模型的全部理论与操作层面'的说法，并列出尚未完全参透的要素清单：归纳偏置、过拟合、隐式表示、迁移学习、蒸馏、强化学习、简单性偏置等。
他的结论是：我们之所以确信手里有全部'积木'，是因为模型最终能和你对话——即从结果反推组件齐全，而非从理论上真正理解了每个环节。
「研究」频道最新
- 研究:国际象棋何时花时间思考,是检测作弊的关键信号 — TZahavy · 2026-09-09
- 表格基础模型登场:别再用 LLM 做特征预测,让它决定何时预测 — helloiamleonie · 2026-09-09
- 组合多种持续学习机制,百任务记忆保留率从1.2%升至34.9% — DanielKhashabi · 2026-09-09
- OpenAI 用 AI 找到 Navier-Stokes 奇点，千禧年难题证明被拆解 — eigensteve · 2026-09-09
- 数学家控 OpenAI 学术造假，Altman 否认，陶哲轩警告开放科学倒退 — The Decoder · 2026-09-09
- AI 数学突破引发学术界争议,Science 深挖风波始末 — pseudolus · 2026-09-09