两人小队 304 GPU 时训出 HobbyLM,算力仅为同级 1/100-1/400
msharmas · x · 2026-10-15
Fuellabs 两人团队(无研究实验室)从零训练并发布 HobbyLM:总参数 1.037B 的稀疏 MoE,每 token 激活约 305M,训练数据约 100B tokens。关键数字:全程仅用 4 张 H200 训练 76 小时,合计约 304 GPU-hours——对比 Sarvam-1 约 122,880、Zoho Zia 7B 约 153,600、Llama 3.2 1B 370,000、Llama 3.2 3B 460,000 GPU-hours,少 100-400 倍。团队称将在未来几天分享工程决策、失败实验与完整训练故事。
「Infra」频道最新
- 仅调 llama.cpp 参数:Qwen3-4B 在 2019 年手机上提速 1.34 倍 — hbouammar · 2026-10-15
- a16z图解算力稀缺:老GPU成升值资产,B200租价涨至$5.69/时 — a16z · 2026-10-15
- 算一笔账：1GW 算力毛利≈百万辆 Cybercab，SpaceX 明年再增 3-5GW — JOBhakdi · 2026-10-15
- Cloudflare 数据:Yandex 断网后恶意机器人未消失,仅迁移到其他俄托管商 — Cloudflare Blog · 2026-10-15
- AI 成本五年降速超历史任何技术，比电力快 54 倍 — LinusEkenstam · 2026-10-15
- 推理市场年吞吐 4.5 千万亿 token,却没有一把衡量价值的标尺 — AccBalanced · 2026-10-15