DWARF-55M-Base 发布：近全稀疏注意力
MariusNocturnum · reddit · 2026-07-21
DWARF-55M-Base 是基于 DWARF 架构的首个模型，主打近乎全稀疏注意力设计。
文中给出的关键点包括：
- 采用 9 层 Dynamic Sparse Query-Gather（DSQG）层作为主体，再在 25% 深度放置 1 层完整因果注意力作为全局混合器。
- 在训练上下文 2048 的条件下，声称检索稳定；初步结果还显示，检索能力可能外推到约 3 倍训练长度（约 6144），但作者明确表示这仍需进一步验证。
- DSQG 用一组固定的近邻与远距 token 偏移替代全量注意力，让每个 token 只看一小部分历史，从而把每 token 的注意力计算和 KV cache 带宽压到接近 O(1)。
- 这是一个研究原型 base model，使用 Dolma3 Mix 150B 的 10B tokens 训练，tokenizer 是修改过 ChatML 的 OLMo1 Base（50,282 词表）。
- GitHub 代码还提供了实验性的 HISA 路径，把 L3 的 full attention 替换成稀疏方案，但尚未完全打磨好。
附带 Hugging Face 和 GitHub 链接，可直接试验。
「模型」频道最新
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11