德国主权模型只是换了数据配比
eliebakouch · x · 2026-07-12
这条回复在点评一个德国联合体推出的“主权”基础模型：
- 其架构和大部分超参数基本沿用了 Nemotron 3 Nano。
- 主要变化是数据混合配比做了约 20% 的调整。
- 训练规模大约 26T tokens，且训练是在德国自有集群上完成，因此“主权”更多体现在训练基础设施和数据/部署控制上，而不是架构创新。
作者还质疑这种做法的计算效率，认为如果直接继续预训练，可能能得到差不多甚至更好的结果。
所属事件:德国联盟发布开源主权模型 Soofi S 30B-A3B(5 条相关)→
「模型」频道最新
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11
- TheZhi 发起调查:Fable 5.1 与 Astra 发布后,编码模型选择变了吗 — TheZvi · 2026-09-11
- antirez 谈 Anthropic 禁止未成年人使用 Claude — antirez · 2026-09-11
- Engram 随机读取不适合 SSD，CPU 内存低延迟共享或成正解 — bookwormengr · 2026-09-11