作者预测消费卡将跑Fable级模型
andrewchen · x · 2026-07-13
作者基于本地模型实验，提出一个大胆推断：未来消费级显卡可能运行“Fable 级别”的模型。\n\n他的核心论证是：\n- 训练语料与模型参数之间像压缩关系，当前模型已能把大量知识压缩到相对有限的参数里。\n- 量化、MoE、剪枝等方法持续提高“每参数能力”，他引用所谓 `Densing Law`：能力/参数大约每 3.3 个月翻倍。\n- 如果这种趋势继续，模型所需的“不可再压缩知识核心”可能会缩到几十 GB，落到高端消费 GPU 的显存范围内。\n\n他同时承认这条曲线不会无限成立，因为压缩终有极限，但认为今天的开源 27B 模型已经在朝这个方向逼近。