推算:美国最大在研模型约 8e26 FLOPs、800B 激活参数,需 170T tokens
teortaxesTex · x · 2026-09-15
TeortaxesTex 根据 DeepSeek 梁文锋 5 月披露的「美国人所知最大的在研模型」数据进行推算:若模型为 fp4 精度、跑在 Blackwell 上、计算量约 8.17e26 FLOPs、激活参数约 800B,加上合理的 4%-5% 稀疏度(总参数 16-20T),对应训练数据约需 170T tokens。他补充称 OpenAI 已能拿到 100T+ 的 token(引用 glm-oss 相关数据)。这是一条关于前沿模型规模和训练资源的大局估算,数据来源与假设均标注,但属于推测性质。
「Infra」频道最新
- B200/H100 租金周内创新高,年内涨 47% 和 31% — TheZachMueller · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Mac 端 PyTorch 10 月下载量达 329 万,环比涨 20.5% — LysandreJik · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 内存涨价三倍,特斯拉把 Optimus 大脑内存砍掉三分之一 — aakashgupta · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02