开发者断言:Transformer 论文之后,再无接近量级的架构突破
dosco · x · 2026-11-06
开发者 dosco 发帖称:「LLM 出现之前我们已有 Transformer 论文,而自那之后再没有任何接近它的东西。」一句话概括了部分从业者对当前架构创新停滞的共识性焦虑——主流 LLM 仍是 Transformer 变体,注意力机制的替代方案(Mamba 等线性架构)尚未撼动其地位。适合作为架构创新是否已到平台期的讨论引子。
「漫话AGI」频道最新
- 英国民调:多数人认为 AI 将抢走工作,但不包括自己的 — HotMinuteUK · 2026-11-06
- 观察:AI 正在瓦解名声、广播式传播与知识垄断四件事 — StewartalsopIII · 2026-11-06
- 中国 AI 内部人士称落后3-4个月实为蒸馏时差,差距正被切断 — ronbodkin · 2026-11-06
- 牛津学者 Carissa Véliz 警告:隐私让渡并非不可逆转的宿命 — CarissaVeliz · 2026-11-06
- 长寿研究者预言:本周五非农就业仅 5.5 万,AI 已开始冲击就业数据 — rand_longevity · 2026-11-06
- Cohere Labs 撰文辨析 EdTech 与 PedTech:技术应围着学习成果转 — Cohere_Labs · 2026-11-06