SemiAnalysis 拆解 OpenAI Jalapeño:通用推理 ASIC,实测效率超 NVIDIA 与 AMD
zephyr_z9 · x · 2026-08-25
SemiAnalysis 披露了 OpenAI 自研 Jalapeño 芯片的更多细节:
- 并非只为 OpenAI 模型窄化优化,而是一颗通用 LLM 推理 ASIC,从零设计,团队组建到流片仅约 16 个月。
- 在其测试的多个推理效率指标上,表现优于 NVIDIA、AMD 和 Google 的加速器。
- 性能数据:DeepSeek R1 在并发 1 下达到 700+ tokens/s/user;Kimi K2.5 与 GPT-OSS 在部分测试中约 1,400 tokens/s/user。
- 以上成绩基于单 token 预测,未使用投机解码或 prefill/decode 分离。
所属事件:OpenAI 首款自研推理芯片 Jalapeño 实测数据亮相(67 条相关)→
「Infra」频道最新
- Meta 开源 816B 参数 Muse Spark Open,两台 Mac Studio 即可本地跑 — gabriberton · 2026-10-16
- 黄仁勋做客 BG2 播客:谈 AI 收入能否撑起 Capex 与 2027 瓶颈 — elonmusk · 2026-10-16
- Mistral 本地推理基建机架曝光:DGX Spark、Mac Studio 等混搭 — gregmushen · 2026-10-16
- 英伟达携手瑞典 Wallenberg,Launch 共享 AI 超算 Sferical One — nvidia · 2026-10-16
- 基础设施下一站:能自我进化、自我验证的自适应系统 — _shreya_s · 2026-10-16
- 小米 MiMo RL 训练曝光:30 步花掉 347 万美元 — bycloud · 2026-10-16