观点:AI 系统多数决策用 System 1 小模型更划算
Arpit Bhayani 提出在 AI 系统中划分 System 1 与 System 2 决策模型的思路:LLM 是自回归模型,每个 token 都需一次前向传播,成本高,适合推理和生成任务;而系统内部大量决策只是路由、分类、打分和格式判断这类简单任务,用更便宜的小模型(System 1)才是正确且更经济的选择。
2026-10-31 ~ 2026-11-01 · 2 条相关
- LLM 不该包办一切:System 1 模型才是路由、打分、分类的正确选择 — arpit_bhayani · 2026-10-31
- AI 系统多数决策不需要 LLM 思考,System 1 小模型更划算 — petrusenko_max · 2026-11-01