LLM与人类智能形状不同
ShakeelHashim · x · 2026-07-10
作者认为，LLM 与人类智能之所以“长得不一样”，核心在于：**模型在训练过程和奖励函数可清晰定义的任务上表现很好，但对这些能力的泛化不如人类**，因此不能只凭 benchmark 推断其真实世界能力全貌。 他进一步猜测，这可能源于两点： - AI 的奖励函数比人类学习系统简单得多，因此更容易出现 Goodhart 效应； - 目前还看不到类似人类“集体智能”的清晰对应物。 他补充说，十年前的人如果只看今天的 benchmark，通常会以为能力会像人类一样在各项任务上平滑展开；但他仍不认为这种“人类—AI 智能形状差异”会在未来 10 年内消失。