训练数据之争引发拉黑:蒸馏为何有效成讨论焦点
JacquesThibs · x · 2026-09-09
一场关于训练数据如何影响神经网络的争论:JacquesThibs 主张训练数据要么贡献于模型的世界模型,要么强化 token 路径,从而大幅减少搜索、提升解题能力,「有时只需一点推动」,这正是蒸馏有效的原因。对方反驳称训练数据并非如此运作,最终以拉黑收场。
「Fun」频道最新
- 博主安利 Michael Levin：智能与存在本质的必听内容 — cephaloform · 2026-09-09
- Keltan 喊话 Altman:下一个 peptides 项目做猫耳吧 — QuintinPope5 · 2026-09-09
- 陪产假期用 Astra 搭语音客户端：旧 Meta Portal 变身婴儿护理记录仪 — SIGKITTEN · 2026-09-09
- 「大家刚用上单个智能体,OpenAI 就朝数学家放出上万个」 — msg · 2026-09-09
- Pedro Domingos 吐槽:LLM 至今算不准任意长度两数相加 — pmddomingos · 2026-09-09
- 数学家玩梗：纳维-斯托克斯解有限时间爆破，「奇点已至」 — jam3scampbell · 2026-09-09