大模型推理成本骤降：B200 单价已跌破 3 美元
AccBalanced · x · 2026-07-30
推文指出，当前大模型的实际服务成本已大幅下降。即便使用昂贵的 B200 芯片、vLLM 框架且未开启多项优化，其推理成本也已降至 3 美元以下。然而，这种成本优势并未完全传导至 API 端点，用户依然难以享受到 5 美元级别的低价 Kimi 等服务。
所属事件:GPT-5.6 Luna降价80%实测：性价比全面反超(15 条相关)→
「Infra」频道最新
- 中国AI基建热潮推动国产芯片公司利润暴增，MetaX实现盈利 — pstAsiatech · 2026-10-16
- Agent 何时需要 API 网关：Reddit 热议直连与统一接口的分界线 — TurbulentStiffness · 2026-10-16
- 台湾拟在德州投40亿美元建AI制造园区，服务英伟达与台积电 — Polymarket · 2026-10-16
- KV 缓存远程读取竟比重算还慢:GLM-5.3 生产系统案例复盘 — MultiverseComputingCAI · 2026-10-16
- GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16
- 继 RTX 5090 之后,NVIDIA 商城又下架入门级 RTX 5050 — chemist_slime · 2026-10-16