自动化实验让选题更关键:递归自我改进可能一直在验证错误前提

Gauri_the_great · x · 2026-10-18

作者提出一个关于递归自我改进(RSI)的观点:当实验流程被自动化后,「选哪个实验」这个决策变得更关键——加速带来的全部时间可能都被用来测试一个糟糕前提的变体,却永远发现不了前提本身是错的。

因此递归自我改进可能在加快循环的同时,并不保证 AI 能意识到自己走错了方向。作者认为对 RSI 更严格的检验是:AI 能否识别出「自己的指标本身已成为瓶颈」,并判断出下一步该优化什么。