Reddit 讨论:蒸馏并不能单独解释中国模型崛起
pier4r · reddit · 2026-07-21
作者认为,外界把“中国模型主要靠蒸馏才做得好”的说法夸大了。
- 配图是一张模型相似性热图,作者据此指出:模型之间风格接近,并不能直接证明只是简单蒸馏出来的。
- 如果蒸馏真能如此迅速地抹平护城河,那么资源充足的公司早就都能做到同一水平。
- 他还提出其他可能因素:大规模爬网、训练数据里越来越多的 AI 生成内容,以及互联网上本来就存在的大量机器写作文本。
- 核心结论是:模型能力更可能来自数据、训练流程和互联网文本生态的共同作用,而不是单一的“蒸馏解释”。
「漫话AGI」频道最新
- AI 实验室员工对“明年能做到什么”明显沉默了 — ChrisGPT · 2026-07-27
- AI 可能通过科研垃圾内容侵蚀科学体系 — rbhar90 · 2026-07-27
- 组织本身或许就是地球上的超智能 — eldonredwards · 2026-07-27
- AI 竞赛里的持久护城河可能只剩能源和信息 — GregKamradt · 2026-07-27
- 有人主张先造 AGI,再把它开源 — wordgrammer · 2026-07-27
- Jason Crawford 说 AI 不该只谈对齐,而该守法守伦理 — Afinetheorem · 2026-07-27