Burkov:循环 Transformer 或让 7B 模型回归并真正胜任编码
burkov · x · 2026-09-17
《百页机器学习书》作者 Andriy Burkov 预测:采用循环/looping transformer 架构与 SOTA 注意力机制的 7B 小模型将很快回归,并在编码任务上真正好用。这代表一条与「堆大模型」相反的路线:用架构效率而非参数规模换取小模型在编程场景的实用性。
「漫话AGI」频道最新
- 《如果有人造出它,所有人都会死》上线回顾:一年后论点是否依然成立 — connoraxiotes · 2026-09-17
- 《如果有人造出它,所有人都会死》出版一周年,作者免费送千本电子书 — connoraxiotes · 2026-09-17
- 博主讽刺末日论:世界上最有权势的人每五年喊一次「AI 将毁灭人类」 — kevinnbass · 2026-09-17
- TheZvi 对谈 Robert Wright:AI「放缓」是真命题吗 — TheZvi · 2026-09-17
- 前量化研究员：LLM 智能体让普通 CS 毕业生也能做顶级量化研究 — igarciacamargo · 2026-09-17
- 作者类比马克思预言落空:AI 灾变预测会犯同样的错吗 — kevinnbass · 2026-09-17