OpenAI自研芯片Jalapeño曝光:九个月流片,主打低延迟推理
bigdata · x · 2026-09-18
OpenAI 硬件副总裁 Richard Ho 在播客中详解公司首款自研 AI 加速器 Jalapeño 的设计思路与开发过程。
- 九个月流片:团队借助 AI 工具压缩部分开发环节,将芯片从设计到流片周期缩短至九个月。
- 核心动机:掌控更多硬件栈以降低推理成本、提升性能,而非单纯追求算力峰值。
- 架构特点:采用「空白画布」设计,把内存与计算拉近,打破吞吐与延迟之间的传统取舍,同时兼顾高吞吐与低延迟,面向通用 LLM 与开源模型。
- 瓶颈判断:数据中心真正的瓶颈正从芯片转向电力。
- 软件栈:涉及 CUDA、Triton、投机解码、kernel 优化,以及 InferenceX、AgentX 等跨模型基准。
- 路线图:从第一代走向第三代,涉及 HBM4 与新内存;强化学习与智能体推高推理需求。
- CUDA 护城河:讨论 CUDA 是否仍是壁垒,以及 AI 与新型硬件带来的可选性。
所属事件:OpenAI首芯片Jalapeño曝光:9个月流片(5 条相关)→
「Infra」频道最新
- 「Harness 定义基础设施」:agent 框架与基建正走向垂直整合 — HankYeomans · 2026-11-12
- CoreWeave 转向客户预付款和更短合同为 AI 扩张输血 — TechCrunch AI · 2026-11-12
- AI 烧钱与监管担忧发酵,10 月外资撤出亚洲股市近 500 亿美元 — nordicinst · 2026-11-12
- Bernstein 评数据中心可信管线:Meta 微软谷歌领衔,Kevin O'Leary 团队遭嘲讽 — aronchick · 2026-11-12
- Photoroom 用 SkyPilot 每周回收约 1000 小时闲置推理 GPU — skypilot_org · 2026-11-12
- 英国 AI 芯片公司 Fractile 融资 7.2 亿美元,跻身算力赛道头部 — TechCrunch AI · 2026-11-12