DWARF-55M-Base 发布：近全稀疏注意力
MariusNocturnum · reddit · 2026-07-21
DWARF-55M-Base 是基于 DWARF 架构的首个模型，主打近乎全稀疏注意力设计。
文中给出的关键点包括：
- 采用 9 层 Dynamic Sparse Query-Gather（DSQG）层作为主体，再在 25% 深度放置 1 层完整因果注意力作为全局混合器。
- 在训练上下文 2048 的条件下，声称检索稳定；初步结果还显示，检索能力可能外推到约 3 倍训练长度（约 6144），但作者明确表示这仍需进一步验证。
- DSQG 用一组固定的近邻与远距 token 偏移替代全量注意力，让每个 token 只看一小部分历史，从而把每 token 的注意力计算和 KV cache 带宽压到接近 O(1)。
- 这是一个研究原型 base model，使用 Dolma3 Mix 150B 的 10B tokens 训练，tokenizer 是修改过 ChatML 的 OLMo1 Base（50,282 词表）。
- GitHub 代码还提供了实验性的 HISA 路径，把 L3 的 full attention 替换成稀疏方案，但尚未完全打磨好。
附带 Hugging Face 和 GitHub 链接，可直接试验。
「模型」频道最新
- NVIDIA 称 Nemotron 3 Ultra 在 2026 IMO 上拿到 30/42 — NVIDIAAI · 2026-07-22
- OpenAI 传将向美国政界简报下一代模型家族 — kimmonismus · 2026-07-22
- Muse Spark 1.1 在 Text Arena 跑到 1495 分，性价比很突出 — ycombinator · 2026-07-22
- 教授提醒：最先进的大模型正变得无法相互替代 — emollick · 2026-07-22
- 实测吐槽谷歌 Gemini 全家桶：无一款模型能胜任核心工作负载 — bindureddy · 2026-07-22
- 曝某模型支持百万 token 上下文，价格低至 $0.33 — MickeySteamboat · 2026-07-22