SemiAnalysis 实测:SGLang 在 AMD Mi355 帧率碾压 B200/B300
AnushElangovan · x · 2026-11-07
SemiAnalysis 发推展示推理框架 SGLang 的对比结果:在 AMD Instinct Mi355 上的表现明显优于("framemogging")在 NVIDIA B200/B300 上的运行表现。这一说法来自第三方半导体分析机构,暗示 AMD 新一代 AI GPU 在 LLM 推理工作负载上对 NVIDIA 高端卡形成了竞争力。
「Infra」频道最新
- Reddit 用户借 Strata 卸载方案在 64GB MacBook 跑大模型达 24 tok/s — New-Pressure-6932 · 2026-11-07
- Reactor 创始人发「实时宣言」:实时 AI 将成基础设施级命题 — smtabatabaie · 2026-11-07
- Clairvoyance 新增 hivemind 功能,可与任何人共享 GPU — draginol · 2026-11-07
- zml/llmd 推理服务器发布:单引擎支持 NVIDIA/AMD/TPU/Metal,镜像最小仅 142MB — siwu · 2026-11-07
- 红杉 Maguire 推演:SpaceX 将吞下推理算力市场,Neocloud 苦撑至破产 — shaunmmaguire · 2026-11-07
- 马斯克预告明年公布 Starmind 电脑细节:称将令人震惊 — ns123abc · 2026-11-07