OpenAI 展示 Jalapeno 芯片:推测与解码分离的高效架构
appenz · x · 2026-08-26
在 HotChips 大会上,OpenAI 展示了其 Jalapeno 芯片。据估算,其吞吐量相当于 B200,但功耗更低且在高 Token 率下效率更高。最显著的创新是将 Speculate(推测)和 Decode(解码)分离到不同阶段并使用不同模型,这种架构设计前所未见。
所属事件:OpenAI 在 Hot Chips 展示自研 Jalapeno 推理芯片(6 条相关)→
「Infra」频道最新
- 阿里RecGPT-Mobile-V2:端侧行为预测模型技术报告 — _reachsumit · 2026-08-26
- AMD MI350X 跑通 Qwen3.6-35B:开源 Kernel 实现 8 卡 7.8 万 tok/s — SmilingGen · 2026-08-26
- MetricFire 发布 MCP 服务器,让 AI 查询监控数据 — PKMNPinBoard · 2026-08-26
- LLM 推理一次只算一个 step:连续批处理如何榨满 GPU — arpit_bhayani · 2026-08-26
- 曝 OpenAI 新芯片能效比超英伟达 Rubin — nickbaumann_ · 2026-08-26
- 开启 30 天推理工程挑战:深入 Blackwell 与 CUDA — blelbach · 2026-08-26