SemiAnalysis 拆解 OpenAI Jalapeño：通用推理 ASIC，实测效率超 NVIDIA 与 AMD
zephyr_z9 · x · 2026-08-25
SemiAnalysis 披露了 OpenAI 自研 Jalapeño 芯片的更多细节：
- 并非只为 OpenAI 模型窄化优化，而是一颗通用 LLM 推理 ASIC，从零设计，团队组建到流片仅约 16 个月。
- 在其测试的多个推理效率指标上，表现优于 NVIDIA、AMD 和 Google 的加速器。
- 性能数据：DeepSeek R1 在并发 1 下达到 700+ tokens/s/user;Kimi K2.5 与 GPT-OSS 在部分测试中约 1,400 tokens/s/user。
- 以上成绩基于单 token 预测，未使用投机解码或 prefill/decode 分离。
所属事件:OpenAI 首款自研推理芯片 Jalapeño 实测数据亮相(67 条相关)→
「Infra」频道最新
- Apple 与 Meta 七年来首次公开合作：Mac Studio 串联跑 Muse Spark 模型 — pdamodaran · 2026-10-16
- NVIDIA 开发者生态达 1100 万，四 年多增长近 3.7 倍 — Beth_Kindig · 2026-10-16
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra：前沿模型上桌面 — pcuenq · 2026-10-16
- Muse-Spark 开源权重发布：816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- Meta 发布开源模型 Muse Spark Open,联手 Apple 可跑在 M5 Ultra Mac Studio — The Verge AI · 2026-10-16
- vLLM 实现 Muse Spark Open Day-0 LoRA RL，AIME 从 0.56 提至 0.85 — vllm_project · 2026-10-16