Gimlet 与 Cerebras 规划 100 MW 算力,推理速度可达 3000 tokens/秒
Sethwinterroth · x · 2026-09-29
推理基础设施公司 Gimlet Labs 宣布与 Cerebras 深化合作:
- 双方已在共同服务推理流量,现规划合计 100 MW 的数据中心容量,首个 Cerebras 驱动的数据中心预计今年落地
- 单请求速度可达 3,000 tokens/秒,Agent 任务从分钟级缩短到秒级,催生全新的产品形态
- Gimlet 的核心思路是推理分解(disaggregation):不同推理阶段用最适合的芯片架构,通过一个 API 扩展吞吐与交互性的边界
所属事件:Gimlet 携手 Cerebras 规划 100MW 推理算力(2 条相关)→
「Infra」频道最新
- Starship 一次发射为全球互联网带宽新增约 1% — juanbenet · 2026-09-29
- 分离式量化:Prefill 与 Decode 各用最优格式,1-bit 精度涨 32 分 — ISTA-DASLab · 2026-09-29
- GPU 租赁价格 API 上线:实时追踪 H100/B200 行情 — virattt · 2026-09-29
- 2030 年数据中心仅占全球用电 3%,低于空调的 10% — JarnoDuursma · 2026-09-29
- Dagger 创始人：2026 年大 CI 瓶颈是软件问题，堆机器救不了 — msharmas · 2026-09-29
- llama.cpp 硬分叉泛滥引开源社区质疑:为何不向上游提 PR? — wombweed · 2026-09-29