Moonshot被指用H200部署k3
TheZachMueller · x · 2026-07-19
转发内容称，Moonshot 可能在 multi-node H200 上提供 k3 服务，而这种部署方式的吞吐表现可能不如 nvfp4 b300。
引用部分则在讨论大规模组织如何使用模型：
- 可能按 GPU 小时 而不是按 token 计费；
- 可以拿到专属节点和独立 endpoint；
- 由用户自己掌握 guardrails；
- 闭源模型如果被“偷偷变差”，用户很难察觉，而开源权重可以直接验证变化。
整体是在比较不同模型部署/供给方式的成本、稳定性和可控性。
所属事件:Moonshot K3 部署与长文本推理成本引发热议(2 条相关)→
「Infra」频道最新
- Anthropic S-1：4300 亿美元算力合同不可取消，超过中国全年军费 — Hesamation · 2026-10-27
- Tenstorrent 融资 15 亿美元，估值 62 亿较去年翻倍以上 — Beth_Kindig · 2026-10-27
- Anthropic 拟向 SpaceX 采购 1205 亿美元算力,满载后月付约 31 亿 — XFreeze · 2026-10-27
- 恶搞：用 JEV 决策模型替换 Raft 共识，写入吞吐暴跌 99.98% — irombie · 2026-10-27
- Cadence 进入领域专用 AI 模型赛道,芯片设计自动化再加码 — karlfreund · 2026-10-27
- Qdrant 自研 Universal I/O:向量库 mmap 无缝迁移到对象存储 — qdrant_engine · 2026-10-27