Gimlet 携手 Cerebras 建推理云:规划 100MW、最高 3000 tokens/秒
Sethwinterroth · x · 2026-09-28
Gimlet Labs 宣布与 Cerebras 达成战略合作,把晶圆级算力引入 Gimlet Cloud,规划部署 100 兆瓦 Cerebras 推理容量,首个数据中心预计年内上线,速度最高可达 3,000 tokens/秒。
- 核心逻辑:Agent 多步工作流中推理延迟逐层叠加,100 tokens/秒下需 10 分钟的任务在 3,000 tokens/秒下只需约 20 秒,速度直接决定 AI 系统能完成多少工作
- 双方自去年起已有联合客户项目,集成方案已在私有部署中承载推理流量
- Gimlet 将作为 Cerebras 下一代 CS-4 的首发合作伙伴,客户预计 2027 年可用
定位是超越同构 GPU 集群的「multisilicon」异构推理云。
所属事件:Gimlet 携手 Cerebras 规划 100MW 推理算力(2 条相关)→
「Infra」频道最新
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- Stratechery 虚构讣告:假如黄仁勋 2026 年卸任英伟达 — Gregory_C_Allen · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16