双 7900 XTX 消费机跑出 82 tok/s:RDNA3 优化版 llama.cpp 分支
deathcom65 · reddit · 2026-09-18
Reddit 用户分享一个社区优化的 llama.cpp 分支(llama.cpp-RDNA3-7900xtx-opt),专门针对双 AMD 7900 XTX 消费级显卡配置。
- 运行 Qwen 3.8 Q8 模型,decode 速度从原生 llama.cpp + Vulkan 的约 28 tokens/s 提升到 82 tokens/s(60k context 加载下),提升近 3 倍。
- 作者称用 AI 助手在 Linux 上完成了整套环境搭建,一次跑通。
- 分享目的是希望更多人接力优化 RDNA3 本地推理。
「Infra」频道最新
- NEURA 发布 Neuron AI,欧洲具身智能的真正考验在协同落地 — ingliguori · 2026-11-04
- S3 数据库并不慢：内存+NVMe 缓存摊薄成本，写延迟差距比想象小 — mgill25 · 2026-11-04
- 开源 gpu-unlock 项目让 GeForce AI 推理提速最高 2 倍 — paranoidray · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 用一句提示词让 AI 排查跨区流量：迁移服务省掉跨大西洋延迟 — DanielLockyer · 2026-11-04
- SurrealDB 4 发布：多模型数据库瞄准 Agentic 时代 — Scobleizer · 2026-11-04