François Fleuret:智能诞生于代际对话,蒸馏只是穷版替代
francoisfleuret · x · 2026-11-09
前 Meta/苹果研究员 François Fleuret 提出一个大胆观点:智能产生于代际实体之间的对话,而当前的蒸馏(distillation)只是这种过程的「穷人版」。
他的核心主张是,模型在训练期间需要「父母」式的前代模型与之主动对话,而非单向地压缩、模仿教师模型的输出。这一说法把知识传递从静态数据管道重构为动态交互过程,呼应了他一贯强调学习即互动的立场,值得从课程学习、生成式数据训练的角度展开讨论。
「漫话AGI」频道最新
- 模型内部体验不可知,先做「两种世界都无害」的干预 — amplifiedamp · 2026-11-09
- 预测:2028 年英国最活跃笔友将是互写投诉信的两台 AI — evisoft · 2026-11-09
- Anthropic 员工语出惊人:全速竞赛才是最好的减速方式 — S_OhEigeartaigh · 2026-11-09
- 软件工程师工作日变迁:如今 30% 时间在审 AI 代码、40% 写规格 — itsOmSarraf_ · 2026-11-09
- 软件业已 100% AI 写码:但最受益的是老工程师,新人怎么办? — bendee983 · 2026-11-09
- AI 原生企业不断制造 OOD 数据,经济学或迎奥派复兴 — akbirthko · 2026-11-09