Gimlet 携手 Cerebras 建推理云:规划 100MW、最高 3000 tokens/秒
Sethwinterroth · x · 2026-09-28
Gimlet Labs 宣布与 Cerebras 达成战略合作,把晶圆级算力引入 Gimlet Cloud,规划部署 100 兆瓦 Cerebras 推理容量,首个数据中心预计年内上线,速度最高可达 3,000 tokens/秒。
- 核心逻辑:Agent 多步工作流中推理延迟逐层叠加,100 tokens/秒下需 10 分钟的任务在 3,000 tokens/秒下只需约 20 秒,速度直接决定 AI 系统能完成多少工作
- 双方自去年起已有联合客户项目,集成方案已在私有部署中承载推理流量
- Gimlet 将作为 Cerebras 下一代 CS-4 的首发合作伙伴,客户预计 2027 年可用
定位是超越同构 GPU 集群的「multisilicon」异构推理云。
「Infra」频道最新
- 黑客链式利用硬编码密钥拿下 Meta 服务 root 权限并窃取云凭证 — evilsocket · 2026-09-29
- Google Cloud 发布 Valkey 9.1,QPS 较托管 Redis 服务提升 3 倍 — rseroter · 2026-09-29
- Framework 192GB AI 桌面版本周三开启预售,配 AMD Ryzen AI Max+ Pro 495 — gnukeith · 2026-09-29
- OriginTrail DKG V10.0.19 上线:AI Agent 读图更快更省 CPU — melnykowycz · 2026-09-29
- INT21 称两周造 20 个推理引擎,MiMo 解码达 1308 tokens/s — bingxu_ · 2026-09-29
- 用 Amazon Nova Act 做合成监控:告别脆弱 UI 选择器脚本 — AWS ML Blog · 2026-09-28