OpenAI Jalapeño 推理芯片深度解析
thehiphopswami · x · 2026-08-28
本期节目深入探讨了 OpenAI 在 Hot Chips 大会上发布的 Jalapeño 推理芯片。核心观点包括：
- 架构设计：采用 NUMA 风格的本地 HBM 切片，解决了操作数延迟问题；利用 AI 辅助 EDA 设计，仅用 9 个月即完成从 RTL 到流片，达到 Blackwell 级别。
- 成本与性能：提出“暗硅比空闲加速器更便宜”的理念，认为一块均衡芯片优于 GPU + LPU 组合。
- 扩展性：通过 Broadcom ESUN 架构，单机柜支持 128 芯片（600 GB/s），16 机柜互联可达 2048 芯片（200G）。
- 行业影响：讨论了该芯片是否对外销售、RTL 代码的 AI 编写比例，以及 Anthropic 在芯片领域的缺位。
所属事件:OpenAI 首曝自研推理芯片 Jalapeño 实测数据，引发对 Nvidia 推理短板的争论(6 条相关)→
「Infra」频道最新
- 2026 晶圆厂设备支出上调至 1530 亿美元，设备周期被拉长 — BenBajarin · 2026-10-16
- Steam 更新实测 5.23 秒启动反超 Epic，网友调侃 vLLM 该加入「启动时间大战」 — AlpinDale · 2026-10-16
- Shadeform 预告下周一发布六项新功能：降 GPU 成本、扩算力来源 — _jaydeepkarale · 2026-10-16
- Fastino 推出后训练 API：兼容 Tinker SDK，成本降 25%-85% — kalyan_kpl · 2026-10-16
- 达拉斯联储估算：AI 数据中心举债约占期限供给八分之一 — _onionesque · 2026-10-16
- 12GB 笔记本显卡硬跑 Wan2.1 14B FP16:内存交换压测 4 分 11 秒出片 — RYuu-1120 · 2026-10-16