回击 Sutton「LLM 不够 Bitter Lesson」：预训练胜在哈耶克式聚合

akbirthko · x · 2026-11-09

akbirthko 回应 Rich Sutton「LLMs are not bitter lesson enough」的论断，认为这是一种「象牙塔式的自说自话」：尽管架构与算法层面确有不少改进空间，但预训练的成功本质上是「哈耶克式聚合」——大规模数据把分散的人类知识汇总起来。

他此前还提出：随着智能商品化，要预测这些系统的形态，应从左到右推理（前沿实验室的社会学、算力分布、物理约束等既成事实），而非从理念出发从右到左推演。属于对 Sutton 观点的实质性 AI 路线之争。