Strix Halo 上 ROCm 反超 Vulkan:解码最快 41.9 tok/s,提速 28%-47%
QuixiAI · x · 2026-09-17
Lucebox 团队分享其在 AMD Strix Halo 上把 ROCm 推到超过 Vulkan 后端的成果:同一天、同一台机器、同一 prompt 下,Lucebox 引擎(ROCm)与 llama.cpp(Vulkan)对比。配合 DSpark drafter,Lucebox ROCm 在 8K 上下文解码达 41.9 tok/s,123K 长上下文下 38.0 tok/s,比 llama.cpp/Vulkan v0.7.5 快 28%-47%,prefill 快 17%-47%。作者认为这对所有 Strix Halo(AMD AI Max)本地产推理用户是利好。
「Infra」频道最新
- 欲撼动 Postgres 须先复制其集成生态，而非只拼性能 — mgill25 · 2026-11-02
- 用 ESP32 小屏给 DGX 集群做推理监控面板,固件开源 — CATLLM · 2026-11-02
- OpenRouter 年化 Token 量破 10 千万亿,每 10.5 周翻一倍 — deedydas · 2026-11-02
- Palmer Luckey 追问数据中心 RAM 的使用权边界:能否做服务条款禁止的事 — avaitopiper · 2026-11-02
- 本地跑大模型实测:关闭 MTP 可提升 20-30% 生成速度 — InternalMode8159 · 2026-11-02
- Kioxia 股价一年涨 216%，但较 6 月高点已腰斩再腰斩 — zephyr_z9 · 2026-11-02