有人估算闭源模型每兆字节权重要烧 1 万美元算力
JosephJacks_ · x · 2026-07-27
有人用当前 SOTA 方法做了一笔粗算，认为 Anthropic 和 OpenAI 这类闭源大模型的成本结构“夸张得好笑”：最终每 1 MB 模型权重，可能要花约 1 万美元算力成本。
帖子里的推算链条是：一个 10T 参数模型大约需要 30 PB 的未压缩训练数据，最后收敛成磁盘上约 5 TB 的模型文件，相当于 6000:1 的压缩比。按这个口径，最终模型 每 1 TB 权重对应约 100 亿美元算力，作者把这种经济模型比作“1940 年代楼房大小的主机在输出海量 FLOPs”。
「Infra」频道最新
- NVIDIA 等多家公司联署公开信，力挺开放前沿模型 — ying11231 · 2026-07-27
- AI 记忆芯片热潮下，CXMT 上市首日涨近 500% — Polymarket · 2026-07-27
- 游戏本跑图太慢？本地与云端图像生成算力成本探讨 — Simple-Evidence-9125 · 2026-07-27
- 图表显示 LLM 上下文窗口增速远超内存和 CPU — nbaschez · 2026-07-27
- MacBook 统一内存能跑大模型，但持续推理会飙到 100°C — anantshri · 2026-07-27
- 曦智称光计算已进入商业验证阶段 — 智东西 · 2026-07-27