Cerebras 深度视频:从 CPU 到晶圆级,LLM 推理芯片如何选型
sarahookr · x · 2026-11-21
Cerebras 与 alyciazcary(Sarah Hooker《Hardware Lottery》的解读者)合作推出硬件深潜视频,系统讲解不同芯片架构为何适合不同负载:半导体基础、SRAM vs DRAM、CPU 的短板、GPU 如何因图形渲染获得并行优势、训练与推理负载差异、TPU 的脉动阵列,以及晶圆级方案为何难做——Cerebras 如何解决良率问题,并让权重常驻算力旁的 SRAM,减少 token 生成时的数据搬运。视频附带完整章节时间轴。
「Infra」频道最新
- 传谷歌砍掉百万颗博通 AI 芯片订单,博通股价暴跌 9% — PAstynome · 2026-11-21
- 美商务部被曝批准向中企出售逾80万块先进AI芯片 — ylecun · 2026-11-21
- Codex 将 WebSocket 请求上限从 16MB 提至 128MB,大幅减少回退 HTTP — charliermarsh · 2026-11-21
- Neon 扩缓存池:Antigravity 缓存命中率升约 4%,配额可用量提升至少 20% — cgarciae88 · 2026-11-21
- 开源推理引擎 Kapitsa 在 M5 Max 跑 Hy4-flash:36 t/s 解码、32K 上下文 33 秒 — m4rkGS · 2026-11-21
- Epoch AI:贸易数据指向超 30 亿美元芯片经马来西亚走私入华 — Jsevillamol · 2026-11-21