RX 7900 GRE 混搭十年前的 RX 480,双卡推理提速 36%
tabletuser_blogspot · reddit · 2026-09-08
Reddit 用户在 llama.cpp Vulkan 构建(b10453)下测试 AMD 双卡推理:RX 7900 GRE 16GB 单卡跑不动 20B 以上模型,加入一块老 RX 480 8GB(带宽仅 256 GB/s,单卡生成速度只有 1.8 t/s)后显著提升。
实测结果
- Gemma4 26B-A4B Q4KM:单卡 7900 GRE 生成 37.93 t/s,双卡 52.03 t/s,提升约 36%;预填充从 238 提到 321.6 t/s。
- 传统 27B 稠密模型(Qwen35 27B Q6K)仅 5.96 t/s,Q5KM 也只 11.73 t/s。
- Gemma4 26B-A4B 这种 MoE 模型开关 Flash Attention 几乎无差别(52.03 vs 51.94 t/s)。
结论:即使是带宽差得多的老卡组双 GPU,对 MoE 模型的本地推理收益依然可观。
「Infra」频道最新
- Claude 近半营收来自云市场渠道，占比三年内从 11% 涨至 47% — BenBajarin · 2026-10-26
- 降价即放量：Anthropic 10 月 token 用量暴涨，年底 ARR 或破 1000 亿美元 — GavinSBaker · 2026-10-26
- Alex Banks：电力是 GPU 上线瓶颈，真正的风险是需求先降温 — thealexbanks · 2026-10-26
- 分析师：蚂蚁是当前工作负载最具弹性可置换的模型厂商 — BenBajarin · 2026-10-26
- Anthropic S-1：训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26