AUR llama.cpp-cuda 包被删后性能暴跌 90%,网友自行编译找回
MrHall · reddit · 2026-09-08
- Reddit 用户发现 AUR 上的 llama.cpp-cuda 包被删除后,改用注释中推荐的 ggml-cuda + llama.cpp 组合(v3 优化版 CachyOS 构建),性能暴跌到原来的约 10%。
- 现象是:模型能完整载入 GPU,但计算似乎全落在 CPU 上。
- 作者找到旧 PKGBUILD 用其编译脚本重新构建,同时启用最新 CUDA 优化(针对 RTX 5070)和 CPU 优化,预填充速度从 150 t/s 恢复到 1800 t/s。
- 帖子困惑于为何官方二进制包与自编译差距如此之大,以及是否有额外的依赖包遗漏;同时抱怨 llama.cpp 更新太频繁、不想每天手动克隆编译。
「Infra」频道最新
- Anthropic 10 月 ARR 疑似暴涨，年底千亿美元 ARR 有望 — GavinSBaker · 2026-10-26
- 降价即放量：Anthropic 10 月 token 用量暴涨，年底 ARR 或破 1000 亿美元 — GavinSBaker · 2026-10-26
- Alex Banks：电力是 GPU 上线瓶颈，真正的风险是需求先降温 — thealexbanks · 2026-10-26
- 分析师：蚂蚁是当前工作负载最具弹性可置换的模型厂商 — BenBajarin · 2026-10-26
- Anthropic S-1：训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26