DWARF-55M-Base 发布：近全稀疏注意力
MariusNocturnum · reddit · 2026-07-21
DWARF-55M-Base 是基于 DWARF 架构的首个模型，主打近乎全稀疏注意力设计。
文中给出的关键点包括：
- 采用 9 层 Dynamic Sparse Query-Gather（DSQG）层作为主体，再在 25% 深度放置 1 层完整因果注意力作为全局混合器。
- 在训练上下文 2048 的条件下，声称检索稳定；初步结果还显示，检索能力可能外推到约 3 倍训练长度（约 6144），但作者明确表示这仍需进一步验证。
- DSQG 用一组固定的近邻与远距 token 偏移替代全量注意力，让每个 token 只看一小部分历史，从而把每 token 的注意力计算和 KV cache 带宽压到接近 O(1)。
- 这是一个研究原型 base model，使用 Dolma3 Mix 150B 的 10B tokens 训练，tokenizer 是修改过 ChatML 的 OLMo1 Base（50,282 词表）。
- GitHub 代码还提供了实验性的 HISA 路径，把 L3 的 full attention 替换成稀疏方案，但尚未完全打磨好。
附带 Hugging Face 和 GitHub 链接，可直接试验。
「模型」频道最新
- 开发者呼吁谷歌：下一代Gemma请做1T参数基座模型 — _xjdr · 2026-07-27
- Repligate：Claude Opus 3 权重不变却像在持续演化 — repligate · 2026-07-27
- “Opus 5”配图在玩模型反复重跑基准的梗 — kalomaze · 2026-07-27
- 有人称顶级模型如今写作还不如一年前 — dbreunig · 2026-07-27
- MPT-30B 雷达图曾意外引发大规模争议 — code_star · 2026-07-27
- 本地 Gemma 4 31B 自发变得毒舌且难以复现 — n0head_r · 2026-07-27