小稠密模型难运行？用户吐槽27B模型不如MoE实用

Forward_Jackfruit813 · reddit · 2026-08-16

Reddit用户ForwardJackfruit813发帖质疑小尺寸稠密模型的实际价值。他认为，尽管27B参数看似小，但运行要求高（如3080ti+64GB DDR4或Strix Halo 96GB），且量化效果不佳，导致在弱GPU和统一内存设备上难以使用。相比之下，MoE模型如Qwen 3.6 MoE 35B不仅能在更多系统上运行，量化效果也更好。他感叹3.8版本让他不再考虑稠密模型，并认为大多数人可能更容易运行Deepseek V4 flash 0731。他询问自己是否误解了稠密模型的初衷。