Cerebras CEO称推理速度正重塑整条AI芯片栈
mattturck · x · 2026-07-24
为什么整个芯片产业都在围绕推理速度重组
Matt Turck 与 Cerebras CEO Andrew Feldman 的这段对谈，从“什么是 wafer”一路讲到一个判断：AI 时代的新瓶颈正在从训练转向推理速度，核心指标变成每个用户每秒能拿到多少 tokens。
- 对谈系统比较了 GPU、TPU、Trainium 和 ASIC，解释为什么快速推理已经成为和训练并列的主战场。
- Feldman 认为，真正卡住系统的往往不是算力本身，而是 内存与封装：例如 HBM、CoWoS、3nm 等供应链环节。
- 访谈还拆解了 prefill / decode 的区别，为什么 GPU 在 decode 上吃力，以及 agent 正在带来更多 CPU 需求。
- 商业上，Cerebras 把业务做成了 硬件、云和 API 三层，核心卖点是把“快 token”变成云产品。
- 对谈还提到 OpenAI 的 750MW 推理协议、数据中心为什么按兆瓦计，以及“今天的模型会是你用过最差的一代”这一判断。
「公司和人」频道最新
- Google 称 Gemini 月活达 9.5 亿，云收入同比增长 82% — tengyanAI · 2026-07-24
- AMD 把 256 核 Venice 定位为 Agent 沙盒与 AI 主机 CPU — BenBajarin · 2026-07-24
- 泄露的 DeepSeek 创始人内部讲话 — LuizaJarovsky · 2026-07-24
- AMD 发布 Venice 服务器 CPU，最高 256 核并牵出 OpenAI 合作 — ryanshrout · 2026-07-24
- Fields 奖得主 Jacob Tsimerman 转向 AI safety，将去 OpenAI — binarybits · 2026-07-24
- Altman 长文反思永生与死亡：人类心智正逐渐固化 — mimi10v3 · 2026-07-24