FRI 报告：如何判断 AI 递归自我改进还有多远

SchoeneggerPhil · x · 2026-11-13

Philip Tetlock 转发并评论 FRI（ResearchFRI）的新报告：随着「距离递归自我改进（RSI）还有多近」的不确定性上升，两件事也会上升——预测变得更嘈杂（波动性上升），观点更加极化（互相贴标签）。他认为在信息与情绪过载下，人的信号识别能力会退化，辩论会在最需要变聪明的时候变蠢。

FRI 报告称，越来越多 AI 公司表示可能很快达到 RSI；一旦发生，能力进展可能在公司内部急剧加速，外界难以察觉。报告梳理了现有证据，把关键分歧转化为可预测的问题，并给出初步的 LLM 预测。