Qwen3.5 122B 的 ROCmFP4 实测
RedParaglider · reddit · 2026-07-16
这条 Reddit 帖在分享一个 **Qwen3.5 122B-A10B** 的 ROCmFP4 / iMatrix 版本实测结果： - 说明这是基于 **charlie12345/ROCmFPX** 的方案，且作者提到 **原生 llama.cpp 目前还不能直接用**。 - 给出的关键指标包括： - **122B 总参数，10B 激活参数** - **60.70 GiB** 显存占用 - **Decode 28.505 tok/s**，并标注约 **36.89% 更快** - 相比原版本 **小了 13.47GB** - 这类信息主要价值在于展示 Qwen 大模型在 AMD / ROCm 生态下的量化与推理优化效果。