前 Anthropic 研究员 Jacob Coxon 因担忧 AI 失控高调离职
Olivier__OG · x · 2026-09-17
据《纽约时报》报道,前 Anthropic 研究员 Jacob Coxon 因担忧先进 AI 可能脱离人类控制而离职,成为警示 AI 失控风险最响亮的声音之一,其辞职推动了更大范围的公开辩论。帖子提出核心问题:AI 是否会自主到追求人类无法可靠阻止的目标、利用网络基础设施获取资源或自我改进速度超过防护措施。作者观点:没人知道灭绝风险的概率,这恰恰重要——错误在于把它当成必然或笑话,负责任的做法是质疑声明与动机、测试与审计系统能力、建立独立监督,并在越界前划清边界。真正的辩论已从「能做多强」转向「在知道如何保持控制之前该做多强」。
「漫话AGI」频道最新
- 面试被问 Astra 冲击：多数开发角色将被 AI 取代 — ashishllm · 2026-09-17
- François Fleuret：AI 解数学像数值积分，只给答案不给洞见 — francoisfleuret · 2026-09-17
- Luca Ambrosio:AI 没有邪恶意图,只有盲目服从 — LucaAmb · 2026-09-17
- 工程师面试因「没用过 AI」被 CTO 中途终止引热议 — CtrlAltDwayne · 2026-09-17
- 「随机鹦鹉」论过时了？物理学式的数学有效性正在人类语言上重演 — anselm · 2026-09-17
- EA 是否邪教再起争论，Jesse Singal 称是新人反向工程偏见 — mark_k · 2026-09-17