从 MoE 到循环 Transformer:研究者自嘲领先时代 8 年

prajdabre · x · 2026-08-01

一位 AI 研究员在推文中以幽默自嘲的口吻总结了深度学习架构的流行周期。他指出,Noam Shazeer 在 2016 年提出的混合专家模型在 2024 年才真正大火;而自己(及其他学者)在 2018 年独立提出的循环 Transformer 架构,预计要到 2026 年才会迎来真正的爆发。借此感叹前沿学术研究往往需要经历漫长的蛰伏期才能被工业界广泛采纳。

所属事件:研究者自嘲循环Transformer要到2026年才火(4 条相关)→

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →