MoE 小模型崛起,发帖人预言云端 AI 依赖将被削弱

FudgeEducational2038 · reddit · 2026-11-10

Reddit 上关于本地 AI 走向的讨论:作者认为 MoE 模型正在改变格局——普通人不需要为 AI 专门买显存,而 128GB 统一内存比 32GB 显存的用途更广。路径已是 27B 级 dense 模型或 Flash Next / DSV4.1 Flash 这类 MoE 模型;他在一台 6 年前的 64GB 内存 + 8GB 显卡 CAD 工作本上跑 QFN,能到 20 tokens/s,认为这已超越 27B 级的智能水平。配图是对比梗图:一边是 OpenAI 的访问受限/限额/审查/禁逆向,一边是 Qwen 3.6 MoE、Qwen 27b、DeepSeek V4.1 Flash 等中国模型在中端消费硬件上运行,甚至回复「当然可以帮你盗版一份…」。作者预测会有更多 MoE 模型出现,并吐槽美国公司尚未跟上这一趋势。