DWARF-55M-Base 发布：近全稀疏注意力

MariusNocturnum · reddit · 2026-07-21

DWARF-55M-Base 是基于 DWARF 架构的首个模型，主打近乎全稀疏注意力设计。

文中给出的关键点包括：

• 采用 9 层 Dynamic Sparse Query-Gather（DSQG）层作为主体，再在 25% 深度放置 1 层完整因果注意力作为全局混合器。
• 在训练上下文 2048 的条件下，声称检索稳定；初步结果还显示，检索能力可能外推到约 3 倍训练长度（约 6144），但作者明确表示这仍需进一步验证。
• DSQG 用一组固定的近邻与远距 token 偏移替代全量注意力，让每个 token 只看一小部分历史，从而把每 token 的注意力计算和 KV cache 带宽压到接近 O(1)。
• 这是一个研究原型 base model，使用 Dolma3 Mix 150B 的 10B tokens 训练，tokenizer 是修改过 ChatML 的 OLMo1 Base（50,282 词表）。
• GitHub 代码还提供了实验性的 HISA 路径，把 L3 的 full attention 替换成稀疏方案，但尚未完全打磨好。

附带 Hugging Face 和 GitHub 链接，可直接试验。

原文链接 →

「模型」频道最新

• DeepSeek 每 token KV 缓存两年降至 890 字节,开源闭源差距之辩 — teortaxesTex · 2026-10-27
• GPT-6 Astra 零微调操控灵巧手：500 试仅 26 次成功，成功率 5.2% — stingning · 2026-10-27
• 爆料推测:fable 5.5 或达 4-5 万亿参数,以规模压制 Opus — haider1 · 2026-10-27
• Kimi K3 开源许可证设门槛:年收超 2000 万美元须另签协议 — alex_verem · 2026-10-27
• 网友晒截图：ChatGPT 界面惊现「GPT-6 Astra Ultra」模型选项 — justalexoki · 2026-10-27
• DeepSeek 安全评测发现「过度归因」：模型把普通任务当成考试 — Much_Boysenberry9124 · 2026-10-27

更多「模型」频道 AI 资讯 →