智能到底能压缩多少
jacobkimmel · x · 2026-07-11
作者把 AI 时代的一个核心问题提出来:“智能”到底能压缩到什么程度?
他认为这件事之所以重要,是因为模型能力的历史提升路径本身就在展示“压缩”的可能性:
- 早期主要靠扩大模型规模和数据提升能力;
- 后来出现蒸馏,把大模型的能力压进更小的模型里;
- 但大家仍不知道这种压缩的极限在哪里,也缺少一种成熟的定量框架。
文章进一步推演了两种未来:
- 如果智能可压缩的空间很小,AI 发展可能更像 S 曲线,越往后越依赖巨大算力和能源投入;
- 如果智能比想象中更可压缩,那我们可能还在一条很长的指数增长路线上。
最后他提出的问题是:现在有没有一种接近共识的理论,能回答“智能能被压缩多少、如何量化”这件事。
所属事件:大模型迈向十万亿参数,智能压缩趋势引热议(4 条相关)→
「漫话AGI」频道最新
- OpenAI 收购 Orchestra Bio,AI agents 进军药物研发 — dl_weekly · 2026-10-27
- 学者争论:现行 LLM 远超 GPT-4,但期刊审稿延迟挡住了新模型 — DeryaTR_ · 2026-10-27
- Venkatesh Rao 新文:学会驾驭你自己的大脑 — jger15 · 2026-10-27
- 老工程师回望手写代码时代:AI 接管后,新生代再也体会不到这些时刻 — bendee983 · 2026-10-27
- Luiza Jarovsky:AI 系统不是也永远不会是我们的朋友 — LuizaJarovsky · 2026-10-27
- 投资人 Lex Sokolin:当 AI Agent 替你选银行,品牌好感失效 — LexSokolin · 2026-10-27