Anthropic S-1 暗示递归自我改进临近,AI 2027 作者称被"吓到"

Puzzleheaded-King584 · reddit · 2026-11-05

Anthropic 更新的 S-1 文件新增关于自动化 AI 研发及人工监督的内容,其中写道:根据内部估计与对未来模型的预期,公司可能"很快"达到负责任扩展政策(RSP)中"AI 带来的显著加速进展"门槛(即相对基线 2 倍的研发加速),且由于能力进步多靠滞后指标观测,往往事后再能识别;若能力增速超过安全、对齐与安保措施的跟进速度,可能带来安全事件、监管干预与声誉风险。

《AI 2027》预测作者、AIFP 的 Daniel Kokotajlo 对此公开表示"被吓到":若 Anthropic 真的即将达到 RSP 的 2 倍加速门槛,通向完整 RSI 和超级智能的时间线可能比 AI 2027 描绘的更短——天真地将 AIFM 参数设为 2027 年 1 月实现 2 倍加速,得到的超级智能时间早于原预测。AIFP 正重新推演,并预告下周发布更详细的更新。