llama.cpp 新版 ROCm 预填充速度腰斩,9070XT 用户实测报 regression
uber-linny · reddit · 2026-10-31
一位 RX 9070XT 用户报告 llama.cpp 疑似性能回退:在 Lemonade B1356 Fast ROCm 构建下,Qwen3.5 27B IQ3S 量化的 pp512/pp1024/pp2048 预填充速度分别约 1049/1185/1214 t/s;换到 B1357 构建后骤降至约 460/484/495 t/s,几乎腰斩。作者用 B1356 ROCm 自行编译 llama.cpp 复现,速度同样变慢,基本排除构建差异,怀疑是新版本引入的 ROCm 回归,希望有开发者定位修复。
「Infra」频道最新
- Apple 芯片性能过剩：只有本地跑 LLM 和剪 8K 视频的人能感知差距 — vivekhaldar · 2026-10-31
- 把 Ming-TTS 移植到 Zig/MLX,M4/M5 上推理提速 18 倍 — s_busso · 2026-10-31
- 推理云 Wafer 日token量冲至 OpenRouter 第三，达 1.9T — ycombinator · 2026-10-31
- 本地跑 Kimi K3.1 要 3 万美元,博主称私有推理值得这个价 — bookwormengr · 2026-10-31
- 一行 torch.index_add_ 即可指纹识别具体 GPU，重启也无法伪造 — CatAstro_Piyush · 2026-10-31
- 4 天提升 67%,DeepSeek V4.1 Flash 单卡吞吐冲上 109 万 tok/s — BanghuaZ · 2026-10-31