Sarvam Token Factory 上线,内部基准称 TPS 表现优于多家服务商
itsOmSarraf_ · x · 2026-11-16
Sarvam AI 正式面向所有用户发布 Token Factory:在印度本地托管自家模型和一系列一线开源权重模型,声称在性能与可靠性上对标领先推理服务商,为企业提供无锁定的自有 AI 栈。其营销团队成员 itschefai 发帖称这是入职后参与的第一个项目,并对不同服务商做了 TPS 基准测试,称 Sarvam Token Factory 表现出色,还预告了后续细节 thread。
所属事件:印度 Sarvam 推出 Token Factory 本土托管开源模型推理(15 条相关)→
「Infra」频道最新
- 语义缓存的近失反转难题:该放弃向量检索做 LLM 缓存吗 — Artyrred · 2026-11-17
- NVIDIA cuPotential 让分子动力学提速 2-4 倍,无需换硬件 — gdefabritiis · 2026-11-17
- LLM 分布式训练入门书单:从第一性原理到 FSDP 的 10 篇必读 — East-Muffin-6472 · 2026-11-17
- 18MB 浏览器 TTS 模型 tiny-voca 走红:454万参数免 GPU 免费跑 — thisdudelikesAI · 2026-11-17
- Replicate 静默改版:nano banana 下载从 JPG 改为预签名 URL — Kyrannio · 2026-11-17
- Fireworks AI 称芯片已是商品,真正的护城河是让模型跑得更快的软件 — hargup13 · 2026-11-17