开源模型新趋势:研究者正疯狂移除全局注意力层
yacineMTB · x · 2026-08-04
Yacine 转发了一个关于开源模型研究趋势的梗图和讨论。原推调侃开源模型的研究者们正试图从模型中移除尽可能多的全局注意力层。随后 Elie Bakouch 评论暗示,目前世界上最大的两个开源模型已经在使用线性注意力机制。
「Fun」频道最新
- 精准理解复杂指令,多模态模型 Omni 生成动态 UI — fofrAI · 2026-08-04
- 论文中“delve”等 AI 常用词使用量持续下降 — james_y_zou · 2026-08-04
- AI圈技术梗:RL研究员亲自下场做SFT就是最高认可 — infoxiao · 2026-08-04
- 开发者吐槽 Claude Opus:代码能写,但「不会说人话」 — mattpocockuk · 2026-08-04
- 用 AI 刮取全网、设计蛋白和写恶意软件?(开个玩笑) — yacineMTB · 2026-08-04
- 整治大模型「黑话」:Claude Code 输出规范与翻译对照表 — wzenus · 2026-08-04