Sarvam 推出印度本土推理服务 Token Factory,对齐一线厂商

itsOmSarraf_ · x · 2026-11-17

印度 AI 公司 Sarvam 发布 Token Factory,在印度本土托管自家模型及多款顶级开源权重模型,性能与可靠性对标一线推理服务商,为企业提供无锁定的自有 AI 技术栈。

配套的技术解释指出:仅有 B200 集群和 HF 权重远不足以跑好推理,其长视频讲解了如何在同样硬件上把服务速度提升 2 倍,涉及推理引擎、缓存与控制平面三方面的工程。

所属事件:Sarvam 在印度上线 Token Factory 托管开源模型推理(18 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →