Moonshot被指用H200部署k3
TheZachMueller · x · 2026-07-19
转发内容称，Moonshot 可能在 multi-node H200 上提供 k3 服务，而这种部署方式的吞吐表现可能不如 nvfp4 b300。
引用部分则在讨论大规模组织如何使用模型：
- 可能按 GPU 小时 而不是按 token 计费；
- 可以拿到专属节点和独立 endpoint；
- 由用户自己掌握 guardrails；
- 闭源模型如果被“偷偷变差”，用户很难察觉，而开源权重可以直接验证变化。
整体是在比较不同模型部署/供给方式的成本、稳定性和可控性。
所属事件:Moonshot K3 部署与长文本推理成本引发热议(2 条相关)→
「Infra」频道最新
- Oracle Q1 云基建收入三位数增长，AI 算力需求持续爆发 — DavidLinthicum · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11
- PyTorch Day Korea 2026 首届线下大会启动,9月13日截止征集演讲 — PyTorch · 2026-09-11
- 本地跑 LLM 选卡:4 张 CMP-170HX 涨价 vs Mac Studio M5 — rumboll · 2026-09-11
- llama.cpp 为 RDNA4 调优 Flash Attention,大上下文提升明显 — pmttyji · 2026-09-11