6 张 MI50 跑 139B 模型实测
Old_Grapefruit8774 · reddit · 2026-07-10
帖子展示了在 6 张 MI50 / Pro VII 显卡上运行 MiniMax M2.7 REAP 139B Q3_K_L 的 llama-bench 结果，并给出 pp512、tg128、pp4096+tg128 等不同场景下的吞吐数据。 作者还列出了硬件配置和启动参数，包括使用 ROCm、llama.cpp-hip、-ngl 999 等设置，属于较具体的本地推理部署与性能调优记录。