主权开源德英基础模型Soofi
The Soofi-Team · hf · 2026-07-13
这篇介绍了 Soofi S 30B-A3B：一个面向德语和英语的主权开源基础模型，采用 MoE + Hybrid Mamba Transformer 设计。
模型总参数 30B，但每个 token 只激活 3B 参数，因此在长上下文和高并发推理场景下，推理缓存几乎保持恒定，吞吐量优于密集模型。作者称它在约 27 万亿 token 上预训练，并特意提高了德语权重；在综合英德基准上可匹配 14B 到 27B 的密集模型，在两种语言的代码综合评测上也位居 17 个开放基座模型前列，并且在所比较的欧洲主权基线中表现最佳。
项目还强调了“全开源”交付：权重、部分中间 checkpoint、完整数据来源统计、超参、训练与评测代码都会公开。训练则是在德国工业 AI Cloud 上完成。
所属事件:德国联盟发布开源主权模型 Soofi S 30B-A3B(5 条相关)→
「Infra」频道最新
- Engram 随机读取不适合 SSD，CPU 内存低延迟共享或成正解 — bookwormengr · 2026-09-11
- 劝退帖:推理工程是真金白银的硬活,八成尝鲜者已悄然放弃 — abhijithneil · 2026-09-11
- Hugging Face《Ultra Scale Playbook》:GPU 集群训练 LLM 的免费技术书 — mdancho84 · 2026-09-11
- 从聊天到 Agent,推理延迟正在成为生产级瓶颈 — Euphoric_Sea632 · 2026-09-11
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11