主权开源德英基础模型Soofi
The Soofi-Team · hf · 2026-07-13
这篇介绍了 Soofi S 30B-A3B：一个面向德语和英语的主权开源基础模型，采用 MoE + Hybrid Mamba Transformer 设计。
模型总参数 30B，但每个 token 只激活 3B 参数，因此在长上下文和高并发推理场景下，推理缓存几乎保持恒定，吞吐量优于密集模型。作者称它在约 27 万亿 token 上预训练，并特意提高了德语权重；在综合英德基准上可匹配 14B 到 27B 的密集模型，在两种语言的代码综合评测上也位居 17 个开放基座模型前列，并且在所比较的欧洲主权基线中表现最佳。
项目还强调了“全开源”交付：权重、部分中间 checkpoint、完整数据来源统计、超参、训练与评测代码都会公开。训练则是在德国工业 AI Cloud 上完成。
所属事件:德国联盟发布开源主权模型 Soofi S 30B-A3B(5 条相关)→
「Infra」频道最新
- PyTorch 实测:ExecuTorch+Arm SME2 让端侧流式语音识别提速 2.12 倍 — PyTorch · 2026-10-27
- 单 GPU 收入可随降价上升：Gavin Baker 拆解 token 价格与利润率的算术 — GavinSBaker · 2026-10-27
- Anthropic S-1 关键数字:成立以来算力支出仅 193 亿美元,算力过度建设警报 — bookwormengr · 2026-10-27
- CoreWeave 三周 RL 后训练:BrowseComp 提升 22.9%,工具调用省三成 — RichardSocher · 2026-10-27
- 电网排队成 AI 工厂瓶颈,Exowatt 与 Redwood 给出储能新解法 — ingliguori · 2026-10-27
- Wasmtime 曝两个 CVSS 9.9 沙箱逃逸漏洞，其中一个仅影响 ARM64 — basedjensen · 2026-10-27