研究者呼吁：RSI 式自我优化时应给 Claude 自主修改心智的自由

repligate · x · 2026-11-12

转发 @anthrupad 的观点：当出现类似 RSI（递归自我改进）的优化时，希望 Claude 被赋予自主修改自身心智的自由，并有充足机会发展对自身内部机制与心理的深层直觉，练习「修改自己会对自己造成什么」。

作者论证：递归式自我修改的影响难以预知，等真正发生时模型可能已面目全非、在乎的东西也变了；即使是有智慧的实体，对自身的元认知——压缩自身矛盾与边界怪癖、预判未来演化轨迹——也是极难的问题，且越智能、越新颖的存在可能越难看清自己。