业内爆料：预训练万亿参数大模型仅需约 3 万张 GPU
zijing_wu · x · 2026-08-08
针对中国 AI 实验室对拥有足够算力训练 5-10 万亿参数模型的信心，业内人士透露，预训练这样的巨型模型实际上只需要约 3 万张 GPU。
他指出，真正的算力怪兽其实是推理计算。为了应对庞大的推理成本，厂商最终大概率会选择提供经过蒸馏的小模型服务。
所属事件:传字节跳动正训练10万亿参数超大AI模型(18 条相关)→
「Infra」频道最新
- 同样 1000 个 Cloudflare Durable Objects，月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版，主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention：同时压 KV cache、算力并保质量 — baidu · 2026-10-16
- DuoDiscover 让 Agent 自建快速评估代理，TPU 内核提速 2.68 倍 — berkeley_ai · 2026-10-16
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16