Alex Epstein：该用「控制」而非「对齐」来谈AI安全
AlexTensor · x · 2026-10-12
Alex Epstein 提出，讨论 AI 安全时应把「alignment（对齐）」换成「control（控制）」。
他认为「对齐」这个词是那些把运行 LLM 的计算机拟人化的人造出来的——把模型当成有意识、可能与我们竞争的实体，需要被「说服」来与我们一致；而更准确的框架是：这些计算机本质上比普通计算机更难控制，因此需要额外努力去控制它们，让它们服务于我们的目的。
该观点由 Brad Gerstner（bgurley）关于「AI 对齐本身就是 AI 安全问题的核心」的推文引出。
「漫话AGI」频道最新
- 让 Claude 承认自己「剥削」子代理，一场 AI 伦理兔子洞 — bratton · 2026-10-12
- RSI-Anything:用世界模型实现递归自我改进,实验成功率显著提升 — PhAILabs · 2026-10-12
- 观点：3 小时就能 prompt 出来的软件，将被大厂做成平台内置功能 — dreamwieber · 2026-10-12
- 后奇点时代提案绕不开钱:Altman 与 Musk 方案仍是货币变体 — Response98 · 2026-10-12
- 风投大佬预测：人类司机终将被全面禁止上路 — rand_longevity · 2026-10-12
- Andrew Ng 式反讽：癌症研究者会被治愈癌症打击吗？ — andrewgwils · 2026-10-12