训练 GLM-130B 仅花 60 万美元:96 张 A100 跑了两个月
ccerrato147 · x · 2026-11-09
作者回顾 GLM-130B 训练细节:团队刻意瞄准更小规模——1300 亿参数,可装进单台 A100 服务器。2022 年 1 月起在 96 张 A100 上训练,期间不断遭遇显存、梯度和硬件故障问题。最终成功的训练跑了两个月、约 60 万美元算力成本,随后公开了权重。
所属事件:智谱开源商业模式拆解：年入1.1亿美元、市值暴涨暴跌(13 条相关)→
「Infra」频道最新
- macOS 27.3 虚拟机可用宿主 GPU 跑本地 LLM,实测提速最高 7 倍 — HankYeomans · 2026-11-09
- 为 Agent 而生的 3D 引擎 Vork:渲染比 Blender 快 24 倍 — ravisparikh · 2026-11-09
- Akamai 78 分险胜 Cloudflare 76 分：估值差近 13 倍的边缘双雄对决 — pdamodaran · 2026-11-09
- Claude/Codex 额度用光后,他自建 vLLM 本地跑 Qwen 模型供 Agent 使用 — alfcnz · 2026-11-09
- AGI House 个人智能体黑客日：主打本地推理与每瓦智能 — agihouse_org · 2026-11-09
- Agentic AI 本质是编排调用，瓶颈或推动端侧小模型兴起 — DavidLinthicum · 2026-11-09