LessWrong 长文：提出「长期自我修正」以替代 AI 暂停

LessWrong 精选 · rss · 2026-07-31

作者针对现有的「AI 暂停」和「长期反思」理念提出异议，认为人类自身存在深层缺陷（如缺乏可行的道德框架、易受操纵、过度自信等），尚不具备构建或监督强大 AI 的资格。

他提出了「长期自我修正」这一新概念，主张在获得重塑宇宙的力量前，人类需要经历漫长的过程来修复自身的哲学与战略缺陷。作者乐观地认为，只要维护好允许渐进式进步的环境，人类就能像历史上一样，逐步积累直至具备掌控强大技术的资格。