Moonshot被指用H200部署k3
TheZachMueller · x · 2026-07-19
转发内容称，Moonshot 可能在 **multi-node H200** 上提供 k3 服务，而这种部署方式的吞吐表现可能不如 **nvfp4 b300**。 引用部分则在讨论大规模组织如何使用模型： - 可能按 **GPU 小时** 而不是按 token 计费； - 可以拿到专属节点和独立 endpoint； - 由用户自己掌握 guardrails； - 闭源模型如果被“偷偷变差”，用户很难察觉，而开源权重可以直接验证变化。 整体是在比较不同模型部署/供给方式的成本、稳定性和可控性。
「Infra」频道最新
- 高通预览端侧 GGUF 运行工具GenieX — carrycooldude · 2026-07-20
- DwarfStar 让 Ada 卡盒变推理服务器 — antirez · 2026-07-20
- DwarfStar 新增多项推理优化 — antirez · 2026-07-20
- BMS 在 Vera Rubin 上建 AI 工厂 — nordicinst · 2026-07-20
- Hut 8 签下98亿美元AI租约 — sunychoudhary · 2026-07-20
- 中国开源模型重塑AI经济学 — Stratechery · 2026-07-20