为什么大模型越做越大？聊聊 DeepSeek 与 Qwen 的「小模型极限」路线

gnukeith · x · 2026-10-12

作者质疑「更大=更好」的行业惯性，认为 LLM 的终极目标应是越小越强，猜测做大模型或许是为了蒸馏出更聪明的小模型。

他特别看好中国实验室的开放路线：DeepSeek V4.1 Flash 虽是 196B 参数(FP8)的大模型，但可将约 183–204GB 的 engram 表卸载到 SSD 上跑；Qwen 3.8 Flash Next 则支持卸载 51B 的 Prompt Lookup Engine(PLE,一种专用 n-gram 嵌入查找表)，两者都为本地部署做了巧妙的架构设计。他还点名 Qwen 3.8 27B，认为中国实验室在把小模型推到极限方面走在前面。