观点:AI 系统多数决策用 System 1 小模型更划算

Arpit Bhayani 提出在 AI 系统中划分 System 1 与 System 2 决策模型的思路:LLM 是自回归模型,每个 token 都需一次前向传播,成本高,适合推理和生成任务;而系统内部大量决策只是路由、分类、打分和格式判断这类简单任务,用更便宜的小模型(System 1)才是正确且更经济的选择。

2026-10-31 ~ 2026-11-01 · 2 条相关