专题 · FULL STORY

OpenAI 自研芯片 Jalapeño：从流片到实测亮相

OpenAI 与 Broadcom 合作的首款自研推理芯片 Jalapeño 先经 SemiAnalysis 曝料流片并宣称能效超英伟达 Blackwell，随后在 Hot Chips 大会上公开架构与实测数据，击败 GB200/GB300 的说法引发对英伟达推理短板的激烈争论。

2026-08-25 ~ 2026-09-04 · 7 集 · 100 条

第 1 集 · OpenAI 首款自研推理芯片 Jalapeño 实测数据亮相(2026-08-25,67 条)

OpenAI 首次公开首款自研推理芯片 Jalapeño 的实测基准数据，宣称在多项推理任务中击败英伟达旗舰 GB200 与 GB300 系统；SemiAnalysis 的独立拆解也认为这是一颗通用 LLM 推理 ASIC。该芯片由 OpenAI 与 Broadcom 合作开发，团队组建到流片仅约 16 个月，计划年底前部署，且只是多代路线图的第一步。因其可能动摇英伟达在 AI 推理算力市场的地位而备受关注。当前结论：数据亮眼但主要来自 OpenAI 自家基准与 SemiAnalysis 分析，尚无英伟达或第三方权威机构独立复核。

已确认

  • OpenAI 在官方博客发布首款定制推理芯片 Jalapeño 并公布首测结果，与 Broadcom 合作开发，设计周期仅约 16 个月（@OpenAI、@dylan522p、@zephyrz9、@borowcy）。
  • 在 OpenAI 的 InferenceX 公共基准上，以 GPT-OSS 120B、DeepSeek R1 670B、Kimi K2 等公开模型测试：每瓦 AI 工作量提升 1.5–1.9 倍，端到端延迟降低 1.7–3.6 倍，每千瓦峰值吞吐量更高、Token 延迟更低，TCO 与吞吐率优于对比的商用系统（@OpenAI、@testingcatalog、@kimmonismus、@Polymarket）。
  • 在同等 DeepSeek R1 解码速度下，每千瓦吞吐量为英伟达 GB300 的 104.3 倍（12,258 vs 118 tok/s/kW）（@rohanpaulai）。
  • SemiAnalysis 深度拆解指出 Jalapeño 并非只为 OpenAI 模型窄化优化，而是从零设计的通用 LLM 推理 ASIC，实测效率超过 NVIDIA 与 AMD 的 Blackwell 等产品；其分析还称该芯片每瓦性能比英伟达 7 月发布的 Rubin 高出最多 2 倍，且即便未启用推测解码技术也取得领先（@zephyrz9、@dylan522p、@gddr5、@nickbaumann）。
  • OpenAI 官方称该芯片将用于提升 ChatGPT 响应速度、增强 Codex 编程会话与 Agent 响应性，并在需求增长时保障可靠接入（@OpenAI）。
  • OpenAI 计划年底前在自有计算基础设施中部署 Jalapeño，第二代芯片正在深入开发中，第三代已初具雏形，每代都将在效率和速度上进一步突破（@OpenAI）。
  • 据 @thesaraharminta 转述的报道，该芯片功耗约 700W，专为大模型推理设计，旨在降低数据中心成本，计划今年晚些时候部署。
  • Cathie Wood 引用 ARK 分析称博通正助力 OpenAI 打造该芯片，在 GPT-OSS-120B 测试中 Jalapeño 在多种解码速度下均处于每千瓦吞吐量前沿（@CathieDWood）。
  • @itsclivetime 称 Jalapeño 团队在 A0 硅片上以 vibe-porting 且非 specdec 的方式实现 DeepSeek 模型，程序执行速度超过 VR200，B0 版本即将到来（个人转述，细节待验证）。

尚未确认

  • 各项性能数字均来自 OpenAI 自家 InferenceX 基准与 SemiAnalysis 分析，尚无英伟达方面或第三方权威机构独立复核；「104.3 倍」等极端数值的测试条件（如对比系统配置、量化与批处理设置）仍有待更多公开细节验证。
  • @WonderfulBuffalo32 称 OpenAI 宣称 Jalapeño 基准表现优于更新的 Vera Rubin 平台，但 @thesaraharminta 转述的报道指出内部测试并未对比 Vera Rubin，两者口径存在出入，需等更多细节。
  • @cloneofsimo 转发的观点称该芯片整合了 GPU 与 TPU 优势但暂不对外发售，并预测中国三年内推出仿制品、增加晶圆产能，属个人推测，无官方信息佐证。

为什么重要

  • 这是 OpenAI 首次公开自研芯片实测数据，标志着其「降低对英伟达依赖」战略进入落地阶段；若通用推理 ASIC 的定位成立，可能对英伟达与 AMD 的数据中心推理市场形成实质竞争压力。
  • 官方同时披露的二代、三代路线图显示这不是一次性试水，而是一条长期的自研算力产品线，可能重塑云端推理芯片的竞争格局。

还有 47 条相关讨论 →

第 2 集 · OpenAI 首度公开自研推理芯片 Jalapeño 架构(2026-08-26,7 条)

OpenAI 芯片团队在 Hot Chips 大会上首次公开自研 ASIC 推理芯片 Jalapeño 的架构细节，这是 OpenAI 自研芯片路线的首次架构级披露。综合与会者与爆料信息，该芯片专注推理任务，以 InferenceX 和开源模型为基准方向（North Star 指标），估算吞吐量相当于 B200 但功耗更低，引发业界广泛关注。

已确认

  • Jalapeño 是一款专注推理的 ASIC 芯片，在 Hot Chips 大会上由 OpenAI 芯片团队展示，基准测试方向选定为 InferenceX 与开源模型。
  • 每颗芯片独占自己的 HBM（高带宽内存）切片，核心与芯片之间利用片上网络直接通信。
  • 架构上最显著的亮点是将 Speculate（推测）与 Decode（解码）分离到不同阶段处理。
  • BenBajarin 总结其设计理念为「No show flops, all achievable flops」——没有演示用的虚算力，全部是可实际达到的有效算力。
  • 据 appenz 估算，该芯片吞吐量相当于 B200，但功耗更低，且在高 Token 率下效率更高。
  • OpenAI 还分享了工程细节：团队仅用 9 个月从 RTL 代码完成流片；其 AI 优化循环能在 2 天内将低效内核从 0.31% 优化至 88.94% 的物理极限，且生成的代码比顶级工程师更优。

尚未确认

  • 爆料人 beffjezos 称每个机架部署 128 颗 Jalapeño 芯片、每个 Pod 2048 颗，且张量并行与专家并行使用不同互连方案；该扩展架构细节未获官方证实。

为什么重要

  • Jalapeño 是 OpenAI 降低对第三方 GPU 依赖、自研推理算力的关键一步。推测/解码分离与「全有效算力」的设计取向显示其针对大模型推理吞吐与能效做了专门优化。
  • 9 个月流片与 AI 代码优化循环展示了 AI 辅助芯片设计的极高效率，若规模化落地可能同时改变推理算力市场的成本结构与芯片研发范式。

第 3 集 · OpenAI 首曝自研推理芯片 Jalapeño 实测数据，引发对 Nvidia 推理短板的争论(2026-08-26,6 条)

OpenAI 在 Hot Chips 大会上首次公开自研推理芯片 Jalapeño 的真实性能数据，引发社区广泛讨论：支持者认为它暴露了 Nvidia 微架构在推理场景的短板，质疑者则指出对比基准和量产前景都存疑。

已确认

  • OpenAI 公布的数据显示，Jalapeño 在峰值吞吐量下每瓦 AI 性能是对比系统的 1.5 至 1.9 倍，端到端延迟降低 1.7 至 3.6 倍（@ArtisticPhone9367 转述，同时吐槽其文档晦涩难懂）。
  • 架构上采用 NUMA 风格的本地 HBM 切片设计以解决操作数延迟问题，并利用 AI 辅助 EDA 设计，从 RTL 到流片仅用约 9 个月（SemiAnalysis 播客讨论，@thehiphopswami 转发转述）。
  • 播客观点提出「暗硅比闲置加速器便宜」，认为一颗均衡设计的芯片可能胜过 GPU + LPU 组合（同上）。
  • @beffjezos 认为 Nvidia 的微架构并非为推理设计，在多方面次优，其护城河主要在 CoWoS 封装技术和 HBM 供应链垄断，而非微架构本身；OpenAI 展示了击败 Nvidia 比想象中更容易。

尚未确认

  • @AccBalanced 转发的分析指出，OpenAI 选取的是使用 HBM3e 的较旧 Blackwell 英伟达系统作对比，而非同等 HBM 配置的系统，「击败英伟达」的媒体说法因此存疑。
  • @GavinSBaker（Gavin Baker）认为大规模超快计算仍需依赖 GPU 和 CS-4/5，Jalapeño 在融资利率上难以与 GPU 竞争，且未来两年晶圆分配可能有限。

为什么重要

  • 这是 OpenAI 自研芯片路线的首批公开实测数据，若能效宣称成立，将动摇市场对 Nvidia 推理垄断地位的预期。
  • 但基准选取争议与产能限制表明，Jalapeño 短期内更可能是 OpenAI 降低成本、增强议价能力的手段，而非 Nvidia 的直接替代品。

第 4 集 · OpenAI 用 AI 辅助设计首代芯片 Jalapeño(2026-08-27,2 条)

OpenAI 宣布通过跨学科团队结合 AI 技术构建了代号 Jalapeño 的首代芯片，并成功完成流片。据报告，Sol 和 Astra 两个 AI 模型参与了设计，利用 AI 优化 RTL 设计流程，显著缩短了芯片设计周期。该芯片将用于运行 AI 任务，不过此举也伴随一定风险。

第 5 集 · 传闻 OpenAI 自研芯片 Jalapeño 性能超英伟达 Blackwell(2026-08-27,2 条)

SemiAnalysis 创始人 Dylan 声称，OpenAI 首款自研芯片「Jalapeño」表现惊人，性能甚至可能超越英伟达 Blackwell 以及下一代 Rubin 芯片。相关讨论最早源于一段 YouTube 视频，并分析其对英伟达市场地位的潜在冲击。该说法未经官方证实，目前仍属市场传闻。

第 6 集 · OpenAI 自研推理芯片 Jalapeño 流片，能效宣称超英伟达(2026-08-30,14 条)

据 SemiAnalysis 深度报道，OpenAI 与 Broadcom 合作打造的自研芯片 Jalapeño 已流片，定位是推理而非训练，目标是通过专用硬件降低 ChatGPT 服务成本、加快响应速度，并减少对英伟达的依赖。OpenAI 由此继 Google、Amazon、Microsoft、Meta 之后加入大厂自研芯片行列，计划年底前部署。

已确认

  • OpenAI 公布了 Jalapeño 在 GPT-OSS 120B、DeepSeek R1、Kimi K2.5 1T 等多个大模型上的测试数据：峰值吞吐量下每瓦 Token 数较英伟达 GB200/GB300 提升 1.5 至 1.9 倍
  • @rohanpaulai 转述 SemiAnalysis 数据：在约 100 tok/s 的交互速度下，能效比约 11M tok/s/MW，约为同类 Blackwell 配置的两倍；深度报告称该芯片从设计到流片仅 16 个月，并在多个开源模型上击败 Nvidia 方案
  • @prasannasays 转述 OpenAI 在 Hot Chips '26 会议上披露的细节：芯片设计后期曾面临布局无法排布的危机，团队为让小团队快速迭代引入了新的硬件编程环境 XLS，最终超过一半的核心是用这种语言编写的
  • 多位作者（@BenBajarin、@thehiphopswami、@akbirthko 等）发布深度分析，从第一性原理拆解 Nvidia GPU 在推理场景的缺陷（E2E 延迟瓶颈、RoCE 网络问题、DPU 性能与安全瓶颈、KV Cache 成本等），并以 Jalapeño 为例阐述 Core Slice 架构、内存子系统、片上网络及软件栈等推理专用芯片设计思路

尚未确认

  • 流片周期存在说法分歧：@thehiphopswami 转述称 9 个月流片且「由 AI 设计」，@rohanpaulai 转述的深度报告则称 16 个月，均来自 SemiAnalysis 及转发帖转述，尚无官方完整确认
  • 所有能效数据目前均为 OpenAI 及 SemiAnalysis 单方宣称，尚缺第三方独立验证

为什么重要

  • @AccBalanced 转发的分析指出，Jalapeño 颠覆了英伟达「程序员能否使用该芯片」的设计原则：它假设 AI 将编写编译器，芯片架构可围绕这一前提设计，甚至可能采用人类觉得笨拙或反直觉的架构，因为人类可用性不再是约束
  • Hot Chips 披露的 XLS 实践为这一判断提供了佐证：超过一半核心由新编程环境编写、并借助 AI 应对布局危机，显示芯片设计流程本身正在被 AI 重塑
  • 若能效宣称属实，将直接冲击英伟达在 AI 推理芯片市场的地位，也标志着头部 AI 公司自研芯片趋势的进一步巩固，OpenAI 借此可显著降低 ChatGPT 的服务成本

第 7 集 · OpenAI 携手 Broadcom 发布首款自研推理芯片 Jalapeño(2026-09-04,2 条)

在 Hot Chips 大会上，OpenAI 与 Broadcom 合作推出的首款自研推理处理器 Jalapeño 成为焦点。该芯片配备 6 颗 HBM4、216GB 显存、15.4 TB/s 带宽，规格表现不错但并非演讲重点；更受关注的是其研发速度——从 RTL 冻结到流片仅用 9 个月。此举被视为 OpenAI 降低对 NVIDIA 依赖、构建自有算力体系的重要一步。