OpenAI 硬件 VP 详述首颗自研芯片 Jalapeño：9 个月流片
thehiphopswami · x · 2026-09-18
OpenAI 硬件副总裁 Richard Ho 在 The Data Exchange 播客中详解公司首颗自研 AI 加速器 Jalapeño：
- 为何自研：掌控更多硬件栈可降低推理成本、提升性能，芯片同时追求高吞吐与低延迟，面向通用 LLM 与开源模型设计。
- 架构特点：白板式设计让内存与计算更靠近，打破吞吐与延迟的权衡；低延迟对多模态 AI 尤为关键。
- AI 加速研发：AI 工具把部分开发周期压缩至 9 个月完成流片；AI 也被用于优化 kernel。
- 路线图：下一代将引入 HBM4 与新内存；讨论 prefill/decode、speculative decoding、CUDA 是否仍是护城河，以及 agent 与强化学习对推理需求的拉动。
- 他认为电力而非芯片正成为数据中心瓶颈。
所属事件:OpenAI首芯片Jalapeño曝光：9个月流片(5 条相关)→
「Infra」频道最新
- 「Harness 定义基础设施」：agent 框架与基建正走向垂直整合 — HankYeomans · 2026-11-12
- CoreWeave 转向客户预付款和更短合同为 AI 扩张输血 — TechCrunch AI · 2026-11-12
- AI 烧钱与监管担忧发酵，10 月外资撤出亚洲股市近 500 亿美元 — nordicinst · 2026-11-12
- Bernstein 评数据中心可信管线：Meta 微软谷歌领衔，Kevin O'Leary 团队遭嘲讽 — aronchick · 2026-11-12
- Photoroom 用 SkyPilot 每周回收约 1000 小时闲置推理 GPU — skypilot_org · 2026-11-12
- 英国 AI 芯片公司 Fractile 融资 7.2 亿美元，跻身算力赛道头部 — TechCrunch AI · 2026-11-12