4 张 AMD MI355X 跑出 1129 tokens/秒,DeepSeek 推理创纪录

Scobleizer · x · 2026-11-18

Scobleizer 转引 Hassan 团队的文章:Sciforium 的 DeepSeek-V4.1-Flash 部署在 4 张 AMD Instinct MI355X GPU 上,借助针对真实流量调优的投机解码 drafters,在 P90 下达到 1129 output tokens/秒,约 9 秒生成一万 token。

要点:

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →