AI 学者激辩：三年内 Transformer 架构会被淘汰？
joshua_saxe · x · 2026-08-18
关于 AI 模型架构未来的简短讨论。Andrew Wilson 预测三年内将出现使 Transformer 过时的架构；Joshua Saxe 对此表示怀疑，认为现有前沿模型架构（从 GPT-2 视角看）已相当狂野，未来可能更多是在经典二次型 Transformer 基础上进行增量式改进，而非彻底推倒重来。
所属事件:学者激辩 Transformer 三年内是否被新架构取代(2 条相关)→
「研究」频道最新
- PayPal 发布 SAGA 模型，跨表面统一用户行为嵌入 — _reachsumit · 2026-08-18
- Engram 研究：让 Qwen 反复研读律所文档，推理 token 越用越少 — simran_s_arora · 2026-08-18
- Google 提 SDF 框架，削减 54.9% 陈旧内容投诉 — _reachsumit · 2026-08-18
- Agent 技能提效 6%，研究揭示经验蒸馏优于记忆 — rohanpaul_ai · 2026-08-18
- 微软 NIE：利用 Agent 搜索轨迹零标注优化检索器 — _reachsumit · 2026-08-18
- 多跳检索基准测试的“商业税”：授权与成本盲区 — _reachsumit · 2026-08-18