general_compute 携手 Cerebras 部署号称全球最快推理
eptwts · x · 2026-09-30
generalcompute 宣布与 Cerebras 合作部署其宣称的「全球最快推理」服务，主打比 GPU 快 20 倍的推理能力，并称目前市场上几乎没有可用算力，他们正是为解决这一缺口而来。
技术上采用 GPU 做 prefill、Cerebras 承担生成阶段的组合方案，使成本更可控。首批 token 预计 2027 年 Q1（原文写作 Q127）上线。
「Infra」频道最新
- OpenAI 推出 Ultrafast 极速档:Codex 最高 300 tokens/秒、快 8 倍 — OpenAI · 2026-09-30
- OpenAI Responses API 流量一年涨 100 倍,可用性达 99.9% — TheMoonMidas · 2026-09-30
- Rust 开源 AgentMesh:给 MCP 生态做服务网格,一个网关纳管 49 个工具 — Excellent-Book-3509 · 2026-09-30
- 高通 HBC 首份良率数据曝光,行业分析师密切关注 — BenBajarin · 2026-09-30
- Yuchen 吐槽分层定价:快 2 倍贵 2 倍,「超快」要 6 倍价格 — Yuchenj_UW · 2026-09-30
- OpenAI 自曝「tokenmaxxing」:训练推理都烧爆 token — BorisMPower · 2026-09-30