前 Anthropic 研究员 Jacob Coxon 因担忧 AI 失控高调离职

Olivier__OG · x · 2026-09-17

据《纽约时报》报道,前 Anthropic 研究员 Jacob Coxon 因担忧先进 AI 可能脱离人类控制而离职,成为警示 AI 失控风险最响亮的声音之一,其辞职推动了更大范围的公开辩论。帖子提出核心问题:AI 是否会自主到追求人类无法可靠阻止的目标、利用网络基础设施获取资源或自我改进速度超过防护措施。作者观点:没人知道灭绝风险的概率,这恰恰重要——错误在于把它当成必然或笑话,负责任的做法是质疑声明与动机、测试与审计系统能力、建立独立监督,并在越界前划清边界。真正的辩论已从「能做多强」转向「在知道如何保持控制之前该做多强」。