giffmana 重提知识蒸馏老线程:直觉反直觉,还炼出最强 ResNet50

giffmana · x · 2026-11-17

Google 研究员 giffmana(原 Big Transfer/蒸馏相关工作参与者,与 Xiaohua Zhai、Aohan 等合作)引用了自己当年关于知识蒸馏的长线程,称「你以为蒸馏很简单?我们也是这么想的,直到发现不是」。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →