Anthropic 发现 Scaling Law 拐点源于归纳头涌现

gordicaleksa 回顾 Anthropic 机械可解释性团队的一项发现：Kaplan 等人的 scaling law 曲线上的凸起，实际由 induction heads（归纳头）的涌现造成。他进一步提出一个类比：复制操作似乎同时是生命（Dawkins 的复制子概念）与智能的基本要素，并推想一旦拥有复制操作和稳定状态，生命与智能或许有共同的计算基础，这一思考在社区引发讨论。

2026-09-14 ~ 2026-09-14 · 2 条相关