8 张 B300 自建推理月跑 300 亿 tokens，回本不到 100 天
JosephJacks_ · x · 2026-07-28
在 75% 利用率下，作者称用 8 张 B300 自建 K3 推理服务，月度可安全承载 300 亿+ tokens。
按他的估算，这套系统的算力投入约 50 万美元，月度运维成本低于 1 万美元；如果按当前 API 价格 $3/百万输入 tokens、$15/百万输出 tokens 来算，自建方案的回本周期可低于 100 天。核心观点是：当开源权重模型跑到足够规模时，自建推理可能比持续买 API 更划算。
所属事件:Kimi K3 自建推理方案曝光：算力省六成，百日回本(2 条相关)→
「Infra」频道最新
- 一家公司把 AI 月账单从 120 万美元压到约 10 万美元 — HeyAmit_ · 2026-07-28
- Base 上已现数千万笔支付，Agentic Commerce 仍难被发现 — Timwal123 · 2026-07-28
- OxygenREC-v2 把判别能力内化进 3B MoE 推荐器 — _reachsumit · 2026-07-28
- 帖子称这项 NVIDIA 相关发布仍只限微软 Foundry 审批客户 — davidmanheim · 2026-07-28
- Render 开源 MCP 服务器，接入部署日志指标和 Postgres — ojus_render · 2026-07-28
- Anduril 集装箱数据中心两人十分钟内可部署 — damianplayer · 2026-07-28