OpenAI 硬件 VP 详述首颗自研芯片 Jalapeño:9 个月流片
bigdata · x · 2026-09-20
The Data Exchange 播客采访 OpenAI 硬件副总裁 Richard Ho,详解 OpenAI 首颗自研 AI 加速器 Jalapeño 的设计与影响:
- 为什么自研:控制更多硬件栈以降低推理成本、提升性能;芯片以高吞吐与低延迟的少见组合为卖点,面向通用 LLM 与开源模型设计。
- 架构:白板式设计,让内存与计算更靠近,打破吞吐与延迟的权衡;讨论 prefill/decode、用 AI 优化 kernel、speculative decoding。
- AI 加速开发:部分开发周期被压缩到 9 个月完成流片,AI 工具让专家工程团队效率大增;路线图已规划到第三代,采用 HBM4 与新内存。
- 其他话题:CUDA 与 Triton、CUDA 护城河是否仍存、电源而非芯片正成为数据中心瓶颈、RL 与 agent 对推理需求的拉动、InferenceX/AgentX 基准。
所属事件:OpenAI 硬件 VP 详谈自研芯片 Jalapeño 九个月流片(2 条相关)→
「Infra」频道最新
- 分析师推算：国产芯片放量后中国或按 1:2 配比逐步放开 H200 — teortaxesTex · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- 预算级独显服务器租赁指南:OVH、FiberState 及询价技巧 — realmrfakename · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影，逗乐 AI 研究员 — giffmana · 2026-11-12
- llama-modchip：64GB 内存纯 CPU 跑 284B 模型，零 GPU — pmttyji · 2026-11-12
- Agent Substrate 计算器：预测不同负载下 agent 会话恢复速度 — pjausovec · 2026-11-12