月租4.6万美元跑Kimi K3：单B300推理速度达450 token/s
casper_hansen_ · x · 2026-08-01
开发者算了一笔经济账：如果每天消耗数十亿token，以每月4.6万美元的价格租用一台搭载单张B300芯片的服务器来自行部署Kimi K3，将比直接调用Claude等商业API更具性价比，且能独享450 token/s的极速推理体验。
「Infra」频道最新
- Reflection AI 开源 Beam：Apache 2.0 权重+40 余家生态伙伴 — zhyncs42 · 2026-10-16
- NVIDIA RTX Spark 正式发布，主打 Windows PC 本地跑 AI — ostrisai · 2026-10-16
- SkyRL 为 Beam 提供首日 RL 支持,LoRA 解码吞吐提升 62% — vllm_project · 2026-10-16
- DFlash2 为 Beam 解码提速最高 3.03 倍 — vllm_project · 2026-10-16
- Beam 长上下文服务优化:GB200 前向最快降 20% — vllm_project · 2026-10-16
- Reflection Beam 501B MoE 登陆 GB200:单用户 463 tok/s — zhyncs42 · 2026-10-16