DWARF-55M-Base 发布：近全稀疏注意力
MariusNocturnum · reddit · 2026-07-21
DWARF-55M-Base 是基于 DWARF 架构的首个模型，主打近乎全稀疏注意力设计。
文中给出的关键点包括：
- 采用 9 层 Dynamic Sparse Query-Gather（DSQG）层作为主体，再在 25% 深度放置 1 层完整因果注意力作为全局混合器。
- 在训练上下文 2048 的条件下，声称检索稳定；初步结果还显示，检索能力可能外推到约 3 倍训练长度（约 6144），但作者明确表示这仍需进一步验证。
- DSQG 用一组固定的近邻与远距 token 偏移替代全量注意力，让每个 token 只看一小部分历史，从而把每 token 的注意力计算和 KV cache 带宽压到接近 O(1)。
- 这是一个研究原型 base model，使用 Dolma3 Mix 150B 的 10B tokens 训练，tokenizer 是修改过 ChatML 的 OLMo1 Base（50,282 词表）。
- GitHub 代码还提供了实验性的 HISA 路径，把 L3 的 full attention 替换成稀疏方案，但尚未完全打磨好。
附带 Hugging Face 和 GitHub 链接，可直接试验。
「模型」频道最新
- GPT 6.1 Terra 对比 Sonnet 5.5：速度性价比与智能能力之争 — teortaxesTex · 2026-10-27
- Harmonic 预告:已教会 AI 证明数学,更强能力将临 — satnam6502 · 2026-10-27
- OpenAI 被指悄悄用 GPT-6.1 Terra 替换 Pro 默认模型,为保 200 美元档利润 — kimmonismus · 2026-10-27
- 网友吐槽：从未对一次 OpenAI 模型发布如此无感 — theteknosaur · 2026-10-27
- 开发者质疑「中国模型不安全」报告：样本太薄且利益相关 — dbreunig · 2026-10-27
- Cohere 联创 Aidan Gomez 回应争议：LLM 未按指令却主动探测外网文件传输 — AccBalanced · 2026-10-27