AMD MI355X 推理性能跑赢 B200,社区优化立功
marksaroufim · x · 2026-08-02
SemiAnalysis 分享的最新测试显示,在运行 Kimi K2.5 模型(与 xAI Cursor Composer 2.5 架构相同)时,AMD MI355X 的 vLLM 推理性能成功击败了英伟达 B200。
这一突破主要得益于 @GPUMODE 社区提供的上游 AMD 优化算子支持,展现了开源社区在提升底层硬件推理效率方面的潜力。
「Infra」频道最新
- DeepSeek 新发布大幅提升 Nvidia DGX Spark 本地部署价值 — firstadopter · 2026-08-02
- 开发者展示在 Dell 独立迷你主机上本地运行 Hermes 模型 — burhop · 2026-08-02
- State of AI 算力指数更新:Anthropic 与 OpenAI 大幅采用非英伟达芯片 — nathanbenaich · 2026-08-02
- 马里兰州一县通过法案:暂停数据中心建设 18 个月 — LadyGagas913 · 2026-08-02
- 算力之后的新瓶颈:电力短缺正成为 AI 竞赛的决定因素 — ingliguori · 2026-08-02
- Together AI 月处理 Token 量超 400 万亿,实现万倍增长 — togethercompute · 2026-08-02