智能到底能压缩多少
jacobkimmel · x · 2026-07-11
作者把 AI 时代的一个核心问题提出来：“智能”到底能压缩到什么程度？
他认为这件事之所以重要，是因为模型能力的历史提升路径本身就在展示“压缩”的可能性：
- 早期主要靠扩大模型规模和数据提升能力；
- 后来出现蒸馏，把大模型的能力压进更小的模型里；
- 但大家仍不知道这种压缩的极限在哪里，也缺少一种成熟的定量框架。
文章进一步推演了两种未来：
- 如果智能可压缩的空间很小，AI 发展可能更像 S 曲线，越往后越依赖巨大算力和能源投入；
- 如果智能比想象中更可压缩，那我们可能还在一条很长的指数增长路线上。
最后他提出的问题是：现在有没有一种接近共识的理论，能回答“智能能被压缩多少、如何量化”这件事。
所属事件:大模型迈向十万亿参数，智能压缩趋势引热议(4 条相关)→
「漫话AGI」频道最新
- 长文反驳 AI 灭绝论:所谓「10% 灭绝风险」是为逃避产品责任 — gerardsans · 2026-09-11
- 研究者担忧：美国监管或让 AI 进步「死于集体行动」 — paulnovosad · 2026-09-11
- 锐评:一次 spectacular 辞职示范了个体研究员并非无能为力 — birchlse · 2026-09-11
- 「把末日论者全赶出 AI 公司」,mark_k 引发安全派论战 — mark_k · 2026-09-11
- Adam Marblestone 播客书单：从智能演化到数字心智 — KordingLab · 2026-09-11
- David Patterson：反对 AI 与数据中心是蠢还是恶？ — davidpattersonx · 2026-09-11