llama.cpp 新 PR 补齐 AMD GCN MMQ 配置，MI50/MI60 推理提速
pmttyji · reddit · 2026-09-12
llama.cpp 收到一个针对 ROCm/HIP 后端的 Pull Request（#27841），补上了 AMD GCN 架构缺失的 MMQ 配置。
据提交者说明，该改动对 RDNA2 架构的 MI50、MI60 显卡带来 prompt processing（PP）性能提升，更新的 pp tokens/s 基准数据见 PR 评论区底部。
「Infra」频道最新
- 云端前沿模型做规划、本地 Qwen 干活:Reddit 求证混合编码工作流 — kirisoraa · 2026-09-12
- 4×5060 Ti 跑 Qwen3.8 Flash Next 仅 15 t/s,内存带宽成瓶颈? — Ambitious_Fold_2874 · 2026-09-12
- 4700 份 PDF 实测：本地优先推理省 75% API 成本，人工仅审 5% — bibryam · 2026-09-12
- RTX 5070 Ti 16GB 本地跑无审查多模态模型,求选型与量化建议 — Mystvearn_ · 2026-09-12
- 数据科学家卷精度，AI 工程师卷延迟：推理工程的入门分界线 — mdancho84 · 2026-09-12
- 开源监控平台 CheckCle 走红，自托管全栈可观测获 2.9k 星 — tom_doerr · 2026-09-12