Jason Wei:为何小模型加工具无法取代大模型缩放
_jasonwei · x · 2026-08-18
Jason Wei 回顾并修正了自己关于“小模型+强工具”的思考。此前许多人认为,拥有足够强“认知核心”(如 1B 参数)的模型配合工具(联网、代码执行)就能解决复杂任务,理论上几乎无所不能。
但他现在认为这种观点完全错了,核心原因在于速度与自然性:
- 速度需求:用户希望获得即时答案,而非等待模型反复调用工具检索。
- 知识内化优势:某些宏观观点或统计信息(如大众对某音乐节的看法)需基于海量数据通过反向传播习得,这比检索前三条搜索结果更准确、全面。
- 可靠性:长链条任务中,频繁调用外部工具会增加错误概率,不如直接内化知识稳定。
结论是,虽然工具能提升小模型能力,但参数内化带来的知识广度和反应速度至关重要,因此仅靠 1B 模型做“认知核心”是不够的,Scaling Law 依然有效。
「漫话AGI」频道最新
- OpenAI "失控" 事件批判:掩盖人为设计的"无处系统" — round · 2026-08-18
- 观点:小模型追平大模型将戳破 AI 算力泡沫 — bindureddy · 2026-08-18
- Dario 观点引热议:AI 治癌炒作泛滥,缺数据是核心瓶颈 — jasonkwon · 2026-08-18
- Anthropic 高管预测算力年增2-3倍,智能成本年降10倍 — AccBalanced · 2026-08-18
- 预测 OpenAI Astra 将在长程多智能体协作上取得突破 — daniel_mac8 · 2026-08-18
- 曝 OpenAI 新模型 Astra 拟周四发布,能力达 AGI 级别 — VraserX · 2026-08-18