Cerebras CEO称推理速度正重塑整条AI芯片栈
mattturck · x · 2026-07-24
为什么整个芯片产业都在围绕推理速度重组
Matt Turck 与 Cerebras CEO Andrew Feldman 的这段对谈，从“什么是 wafer”一路讲到一个判断：AI 时代的新瓶颈正在从训练转向推理速度，核心指标变成每个用户每秒能拿到多少 tokens。
- 对谈系统比较了 GPU、TPU、Trainium 和 ASIC，解释为什么快速推理已经成为和训练并列的主战场。
- Feldman 认为，真正卡住系统的往往不是算力本身，而是 内存与封装：例如 HBM、CoWoS、3nm 等供应链环节。
- 访谈还拆解了 prefill / decode 的区别，为什么 GPU 在 decode 上吃力，以及 agent 正在带来更多 CPU 需求。
- 商业上，Cerebras 把业务做成了 硬件、云和 API 三层，核心卖点是把“快 token”变成云产品。
- 对谈还提到 OpenAI 的 750MW 推理协议、数据中心为什么按兆瓦计，以及“今天的模型会是你用过最差的一代”这一判断。
所属事件:Cerebras CEO称推理速度正重塑AI芯片产业(2 条相关)→
「公司和人」频道最新
- testingcatalog 现场晒柏林发布会幻灯片，汇总近期重要发布 — testingcatalog · 2026-10-26
- Anthropic IPO 文件:数年内实现专家级 AI,90% 代码由 Claude 编写 — kimmonismus · 2026-10-26
- Anthropic S-1 正式公开，IPO 预计 2026 年底至 2027 年初 — alliekmiller · 2026-10-26
- OpenAI DevDay 巴黎社区黑客松开锣，社区开发者担任评委 — paw_lean · 2026-10-26
- 李开复新书《AI Native》上市：论企业如何成为 AI 原生公司 — kaifulee · 2026-10-26
- Lanyon AI 宣布 11 月起开放预发布版，旧金山芝加哥同步公开演示 — CatAstro_Piyush · 2026-10-26