印度 Sarvam 上线 Token Factory:B200 集群跑 Kimi 与 GLM

itsOmSarraf_ · x · 2026-11-17

Sarvam AI 宣布其推理服务平台 Token Factory 正式上线。工程师团队自述过去几个月端到端搭建了整套 serving stack:在 B200 集群上跑起 Kimi K3.1 Pro 和 GLM 5.3 等第三方模型,实现了多层级 KV cache 和 prefill/decode 分离调度。这条帖是团队成员发的技术线程开头,后续应有不少推理工程细节。

所属事件:印度 Sarvam 推出 Token Factory 本土托管开源模型推理(15 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →