OpenAI 首度公开自研推理芯片 Jalapeño 架构

OpenAI 芯片团队在 Hot Chips 大会上首次公开自研 ASIC 推理芯片 Jalapeño 的架构细节，这是 OpenAI 自研芯片路线的首次架构级披露。综合与会者与爆料信息，该芯片专注推理任务，以 InferenceX 和开源模型为基准方向（North Star 指标），估算吞吐量相当于 B200 但功耗更低，引发业界广泛关注。

已确认

• Jalapeño 是一款专注推理的 ASIC 芯片，在 Hot Chips 大会上由 OpenAI 芯片团队展示，基准测试方向选定为 InferenceX 与开源模型。
• 每颗芯片独占自己的 HBM（高带宽内存）切片，核心与芯片之间利用片上网络直接通信。
• 架构上最显著的亮点是将 Speculate（推测）与 Decode（解码）分离到不同阶段处理。
• BenBajarin 总结其设计理念为「No show flops, all achievable flops」——没有演示用的虚算力，全部是可实际达到的有效算力。
• 据 appenz 估算，该芯片吞吐量相当于 B200，但功耗更低，且在高 Token 率下效率更高。
• OpenAI 还分享了工程细节：团队仅用 9 个月从 RTL 代码完成流片；其 AI 优化循环能在 2 天内将低效内核从 0.31% 优化至 88.94% 的物理极限，且生成的代码比顶级工程师更优。

尚未确认

• 爆料人 beffjezos 称每个机架部署 128 颗 Jalapeño 芯片、每个 Pod 2048 颗，且张量并行与专家并行使用不同互连方案；该扩展架构细节未获官方证实。

为什么重要

• Jalapeño 是 OpenAI 降低对第三方 GPU 依赖、自研推理算力的关键一步。推测/解码分离与「全有效算力」的设计取向显示其针对大模型推理吞吐与能效做了专门优化。
• 9 个月流片与 AI 代码优化循环展示了 AI 辅助芯片设计的极高效率，若规模化落地可能同时改变推理算力市场的成本结构与芯片研发范式。

2026-08-26 ~ 2026-08-28 · 7 条相关

事件全程(共 7 集)→

• 第 1 集:OpenAI 首款自研推理芯片 Jalapeño 实测数据亮相(2026-08-25,67 条)
• 第 2 集:OpenAI 首度公开自研推理芯片 Jalapeño 架构(2026-08-26,7 条)
• 第 3 集:OpenAI 首曝自研推理芯片 Jalapeño 实测数据，引发对 Nvidia 推理短板的争论(2026-08-26,6 条)
• 第 4 集:OpenAI 用 AI 辅助设计首代芯片 Jalapeño(2026-08-27,2 条)
• 第 5 集:传闻 OpenAI 自研芯片 Jalapeño 性能超英伟达 Blackwell(2026-08-27,2 条)
• 第 6 集:OpenAI 自研推理芯片 Jalapeño 流片，能效宣称超英伟达(2026-08-30,14 条)
• 第 7 集:OpenAI 携手 Broadcom 发布首款自研推理芯片 Jalapeño(2026-09-04,2 条)

• 【源头】OpenAI 展示自研 Jalapeno ASIC 推理芯片 — beffjezos · 2026-08-26
• OpenAI Jalapeno 芯片架构细节：每颗独占 HBM — beffjezos · 2026-08-26
• OpenAI Jalapeno 架构细节：单机架128芯片、单Pod 2048芯片 — beffjezos · 2026-08-26
• 【源头】OpenAI 芯片架构关键点：无虚算力，全是有效算力 — BenBajarin · 2026-08-26
• OpenAI 展示 Jalapeno 芯片：推测与解码分离的高效架构 — appenz · 2026-08-26
• OpenAI 芯片工程解密：9 个月流片，AI 代码超人工 — kleffew94 · 2026-08-28

另有 1 条近重复转述:appenz