AMD MI355X 每美元性能达 DGX B300 的 1.7 倍
zephyr_z9 · x · 2026-09-23
SemiAnalysis 称，AMD MI355X 的每美元性能最高可达 DGX B300 的 1.7 倍。
AMD 中国大陆 UMBP 团队与阿里巴巴及 SGLang 社区合作，在 SGLang 中新增一项功能，消除本地 L2 DRAM 与分布式 L3 DRAM 之间重复的 KVCache，使 DRAM 中可存储的 KVCache 最多翻倍。该功能名为 UnifiedRadixCache external cache。
SemiAnalysis 强调，这标志着 AMD 正越来越多地被主流生产级推理引擎（如 SGLang）作为一等公民进行协同设计。
「Infra」频道最新
- 网友发布 Qwen3.8 27B 量化版：单卡 Strix Halo 跑一周，质量胜过 ISTA 与 Unsloth — Dutchnamn · 2026-09-23
- crabbox 上线 boxd：本地编辑，命令跑在毫秒级启动的隔离微虚拟机 — steipete · 2026-09-23
- AI 数据中心功耗从 5 兆瓦飙到 1000 兆瓦，涨了 200 倍 — Olivier__OG · 2026-09-23
- 开发者用 Rust 写权重流式引擎,RTX 3060 12GB 跑动 FLUX.2 9B — madtune22 · 2026-09-23
- 云栖大会最大看点不是新模型，而是 AI 全栈生态成型 — manishkhosiya · 2026-09-23
- 本地跑 Qwen3.8-27B：10GB 显存、170ms 延迟、多模态决策 — kyr0x0 · 2026-09-23