Schmidhuber 称知识蒸馏早在 1991 年欧洲就已发表
SchmidhuberAI · x · 2026-07-23
Schmidhuber 认为，知识蒸馏早在 1991 年就已在欧洲发表，之后才被美国和中国的研究复制。
在被引的长文里，他把 2025 年 DeepSeek 引发的“Sputnik 时刻”当作重新讨论蒸馏发明权的契机，并指出自己 1991 年的工作已经提出：可以通过让学生网络模仿教师网络的行为，把知识压缩并迁移过去。
这条帖子的重点是技术史与概念归属，而不是某个产品本身：蒸馏被描述为一种很早就存在的、通用的神经网络知识迁移原则。
所属事件:Schmidhuber借DeepSeek热议重提1991年蒸馏发明权(10 条相关)→
「研究」频道最新
- DeepMind 试点全球首个双盲 AI 评测，密码学隔离防基准污染 — scychan_brains · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26
- FLASH 仿真框架：单卡 RTX 5090 上分钟级学会布料折叠 — ChongZzZhang · 2026-10-26
- LEMON 监控器:从注意力图零样本识别未见过的 LLM 幻觉与越狱 — yoavartzi · 2026-10-26
- EMNLP 主题演讲背后：用语言模型「模拟学习者」生成儿童语言习得新假设 — najoungkim · 2026-10-26
- EMNLP 2026 主题演讲背后的论文：用 bigram 模拟语言习得 — najoungkim · 2026-10-26