AMD MI355X 推理性能跑赢 B200，社区优化立功
marksaroufim · x · 2026-08-02
SemiAnalysis 分享的最新测试显示，在运行 Kimi K2.5 模型（与 xAI Cursor Composer 2.5 架构相同）时，AMD MI355X 的 vLLM 推理性能成功击败了英伟达 B200。
这一突破主要得益于 @GPUMODE 社区提供的上游 AMD 优化算子支持，展现了开源社区在提升底层硬件推理效率方面的潜力。
「Infra」频道最新
- Hugging Face 工程师晒自建机房：4 个 agent 并跑 256k 上下文 — TheZachMueller · 2026-10-17
- 绕过 RAG：在冻结的 Qwen2.5-72B 第三层直接注入 3 万 token 张量记忆 — Nearby_Indication474 · 2026-10-17
- 一行参数提速 55%：把 llama.cpp 的 --adapt-every 从 1 调到 6 — Bzucko · 2026-10-17
- mlsweep 开源：跨 GPU 组的分布式训练 sweep 调度与可视化工具 — burny_tech · 2026-10-17
- 以太坊基金会推 zkAPI：用零知识证明匿名使用前沿 AI 模型 — DavideCrapis · 2026-10-17
- 高盛：CXMT 披露 4F² 致存储厂市值蒸发 7380 亿美元属过度反应 — zephyr_z9 · 2026-10-17