能效暴增 104 倍：OpenAI Jalapeño 芯片实测数据揭秘
rohanpaul_ai · x · 2026-08-25
OpenAI 宣称其自研 Jalapeño 芯片能效表现惊人。在同等 DeepSeek R1 解码速度下，其每千瓦吞吐量是英伟达 GB300 的 104.3 倍（12,258 vs 118 tok/s/kW）。
关键数据与技术细节：
- 功耗控制：Jalapeño 额定功耗 700W，显著低于 GB200 (1200W) 和 GB300 (1400W)。
- 吞吐量提升：在 GPT-OSS、DeepSeek R1 和 Kimi K2.5 上，单用户解码吞吐量分别是此前最优方案的 2.7 倍、4.1 倍和 3.8 倍。
- 优化原理：通过保持 KV-cache 和模型状态本地化，减少推理在计算密集型 prefill 和内存受限 decoding 之间切换时的数据移动。
- 研发速度：AI 辅助设计将 Jalapeño 从初始设计到流片的时间缩短至九个月，部分 AI 生成的内核运行速度比人类专家实现快 1.5 至 1.8 倍。
- 发布计划：计划今年底部署，第二代已在开发中，第三代正在成型。
所属事件:OpenAI 首款自研推理芯片 Jalapeño 实测数据亮相(67 条相关)→
「Infra」频道最新
- 黄仁勋做客 BG2 播客:谈 AI 收入能否撑起 Capex 与 2027 瓶颈 — elonmusk · 2026-10-16
- Mistral 本地推理基建机架曝光:DGX Spark、Mac Studio 等混搭 — gregmushen · 2026-10-16
- 英伟达携手瑞典 Wallenberg，Launch 共享 AI 超算 Sferical One — nvidia · 2026-10-16
- 基础设施下一站:能自我进化、自我验证的自适应系统 — _shreya_s · 2026-10-16
- 小米 MiMo RL 训练曝光:30 步花掉 347 万美元 — bycloud · 2026-10-16
- Cerebras 用异构 prefill 池喂晶圆级引擎，解码速度与 batch 解耦 — ai · 2026-10-16