Transformer 热潮正埋没早期深度学习成果

研究者感叹大量早期深度学习的重要工作正被遗忘：如今学界只关心基于 Transformer 的聊天模型研究，形成「只在能聊天的 Transformer 上做过才算数」的偏见。作者比喻称这就像「有了飞机就扔掉自行车」，许多非 Transformer 路线的重要成果被冷落；他还吐槽当前不少所谓「全新」的 RL 想法，其实在 90 年代与 00 年代的文献中早有记载。

2026-09-17 ~ 2026-09-17 · 2 条相关

• 「有了飞机就扔掉自行车」:深层学习旧成果正被 Transformer 热潮掩埋 — cephaloform · 2026-09-17
• 你的「全新」RL 想法,90 年代和 00 年代早就被试过了 — cephaloform · 2026-09-17