OpenAI 展示 Jalapeno 芯片:推测与解码分离的高效架构

appenz · x · 2026-08-26

在 HotChips 大会上,OpenAI 展示了其 Jalapeno 芯片。据估算,其吞吐量相当于 B200,但功耗更低且在高 Token 率下效率更高。最显著的创新是将 Speculate(推测)和 Decode(解码)分离到不同阶段并使用不同模型,这种架构设计前所未见。

所属事件:OpenAI 在 Hot Chips 展示自研 Jalapeno 推理芯片(6 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →