开发者热议:真正的 AI 威胁不是递归自我改进,而是滥用

johncrickett · x · 2026-09-12

johncrickett 质疑「威胁来自递归自我改进（RSI）」的说法：RSI 尚未实现，甚至可能永远无法实现；与此同时 AI 已经存在许多真实风险与滥用问题，应该优先面对这些。gerardsans 跟帖进一步称 RSI、AGI、ASI 这类词只是硅谷为保护投资者而造的饭桌术语——「没有自我、没有递归、没有改进」，只有迭代优化；并从技术上论证软件不是无限平滑的，transformer 有容量上限，继续喂数据只会导致灾难性遗忘，所以 RSI 是个「nothing burger」。