Cerebras 联合创始人回忆:早期单芯片功耗就超过整个机柜
AccBalanced · x · 2026-11-04
Cerebras 联合创始人兼 CTO Sean Lie 回顾:公司创立时数据中心机柜供电标准约为 5 kW,而单块 Cerebras 晶圆级芯片的功耗就已超过这一数字;如今 NVIDIA/AMD 的 AI 机柜功耗也达 100-200 kW,当年需要专门搭建的供电与液冷基础设施已成行业标准。
视频访谈涵盖:为什么餐盘大小的芯片需要特殊数据中心、液冷如何实现高密度机柜、从交付机柜到生产 token 的流程、硬件频繁故障时如何持续服务、跑更大模型时的变化等幕后细节。
「Infra」频道最新
- vLLM v0.33.0 发布:927 次提交,GB300 解码延迟最高降 2 倍 — vllm_project · 2026-11-04
- Fireworks 发布 Ultra-fast 推理:1500 tok/s 与半价后台推理 — nicolechirps · 2026-11-04
- Fireworks 活动现场讲解 EXL3 滑动窗口位共享量化技巧 — sophiamyang · 2026-11-04
- ThunderAgent 并入 LLM-D,Agent 推理吞吐翻倍、首 token 延迟从 50 秒降到秒级 — simran_s_arora · 2026-11-04
- TimescaleDB Enterprise 开启公测,瞄准工业数据基础设施新史官定位 — erinmikail · 2026-11-04
- 曝 DeepSeek 今夏已用昇腾做 V4 后训练,V5 看点在 5T 参数规模 — AccBalanced · 2026-11-04