AI 写内核优化:Intel Gaudi2 解码速度反超 H100 1.6 倍

anneouyang · x · 2026-11-19

Standard Kernel 披露:被 Intel 放弃的 Gaudi 芯片,经其 AI 自动生成软件优化后,性能反超 NVIDIA H100。数据显示:cached prefill 吞吐 5,409 tokens/s(1.08× H100),decode 吞吐 475 tokens/s(1.60× H100);成本端每百万 token decode 低至 $0.35,比 H100 的 $3.28 便宜 9.4 倍,cached prefill 便宜 6.3 倍。

公司的结论是:决定芯片性能与经济性的不只是硬件本身,软件栈同样关键——他们正构建用 AI 编写内核软件、释放非英伟达加速器潜力的产品。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →