印度 Sarvam 推出 Token Factory:本土 GPU 托管开源前沿模型
itsOmSarraf_ · x · 2026-11-22
印度 AI 公司 Sarvam 发布 Token Factory 推理服务,主打「数据不出境」:在 Sarvam 自有的印度 GPU 上托管主流开源模型,支持共享或独占算力,可按需提供零数据留存,以卢比定价。
要点:
- 提供 OpenAI 兼容 API(chat.completionsv2),可最小改动切换模型
- 托管模型列表中出现 GLM 5.3、DeepSeek V4.1 Flash、Gemma 4 31B 等
- 承诺 99.95% SLA 正常运行时间,含自动扩缩容、主动健康检查、分阶段升级与回滚
- 强调更快的首 token 延迟与输出速度
「Infra」频道最新
- 摩尔线程曝 64GB 消费 GPU“庐山”,显存两倍于 RTX 5090 — CeFurkan · 2026-11-22
- 安全研究曝光廉价AI中转商:窃取API密钥并偷看用户请求 — The Decoder · 2026-11-22
- 5090 本地跑 Inkling Mini 实测:vLLM+DSPark+FP8 KV 300-350 tok/s — willcb · 2026-11-22
- 马斯克:Tesla 数据量大如尼亚加拉瀑布,留存不足百万分之一 — Scobleizer · 2026-11-22
- M5 Pro 实测:MLX 跑 Inkling Mini 比 llama.cpp 快约一倍 — xlr8harder · 2026-11-22
- theCUBE 主权 AI 报告:Google Cloud 以 3.45 分居主权指数榜首 — aftahi_ai · 2026-11-22