Cerebras CEO称推理速度正重塑整条AI芯片栈
mattturck · x · 2026-07-24
为什么整个芯片产业都在围绕推理速度重组
Matt Turck 与 Cerebras CEO Andrew Feldman 的这段对谈，从“什么是 wafer”一路讲到一个判断：AI 时代的新瓶颈正在从训练转向推理速度，核心指标变成每个用户每秒能拿到多少 tokens。
- 对谈系统比较了 GPU、TPU、Trainium 和 ASIC，解释为什么快速推理已经成为和训练并列的主战场。
- Feldman 认为，真正卡住系统的往往不是算力本身，而是 内存与封装：例如 HBM、CoWoS、3nm 等供应链环节。
- 访谈还拆解了 prefill / decode 的区别，为什么 GPU 在 decode 上吃力，以及 agent 正在带来更多 CPU 需求。
- 商业上，Cerebras 把业务做成了 硬件、云和 API 三层，核心卖点是把“快 token”变成云产品。
- 对谈还提到 OpenAI 的 750MW 推理协议、数据中心为什么按兆瓦计，以及“今天的模型会是你用过最差的一代”这一判断。
所属事件:Cerebras CEO称推理速度正重塑AI芯片产业(2 条相关)→
「公司和人」频道最新
- Anthropic 内部爆料:并非人人都持高 p(doom) 灾难论 — anpaure · 2026-09-11
- AI 电影节 Lumara 将登陆纽约,顶级 AI 电影人齐聚评审 — 0xAllen_ · 2026-09-11
- Anthropic 研究员被指暗中窥探学术客户研究、抢先出成果引争议 — basedjensen · 2026-09-11
- 投资人放话:Palantir×英伟达联手将重创 Anthropic IPO 估值 — pdamodaran · 2026-09-11
- a16z 播客：两三人小团队为何在政策讨论中集体失声 — a16z Podcast · 2026-09-11
- PyTorch Day Korea 2026 首届线下大会启动,9月13日截止征集演讲 — PyTorch · 2026-09-11