Anthropic 2021 研究路线图曝光：RL 与工具使用布局远超同行

SonglinYang4 · x · 2026-10-14

因版权诉讼，Anthropic 2021 年的内部研究路线图被公开。Elie Bakouch 指出，他们在 RL 和工具使用方面起步极早：路线图已明确包含「用人类反馈训练通用有用的 LLM」「对齐 scaling laws」「用 RL 探索大模型工具使用以通往 AGI」等方向，多年后均成为行业主线。

预训练部分提到的「periodic batched backprop」与「skeletokenization」两个概念，被社区对应到 FearNet（ICLR 2018 的脑启发增量学习模型）等论文。文档中还保留了 Dario Amodei、Sam McCandlish、Chris Olah 等人的内部批注，讨论超长上下文、数据质量、代码执行类工具的安全部署等问题。