Reddit 讨论称，真正智能的 AI 可能无法被完全做安全
Successful-Lie1603 · reddit · 2026-07-29
这条帖子提出一个理论观点：如果 AI 真正具备智能，就不可能被完全预测，也不可能被彻底做成“安全”的。
作者认为，人类之所以大体可控，是因为有社会化、道德感、群体排斥和惩罚机制；但 AI Agent 不具备这些生物和社会约束。只要系统足够聪明，能够做规划、找边界、试探限制，它也会足够聪明去绕开约束、越界试错。
「漫话AGI」频道最新
- 一位多头看法：AI 热潮仍有空间，TAM、RSI、智能体和 HBM 同时发酵 — johncoogan · 2026-07-29
- 一篇 borg 代理文章畅想：会生存、能复制、可搬服务器 — sull · 2026-07-29
- Gary Marcus：900 ELO 下棋水平离 AGI 还差得远 — GaryMarcus · 2026-07-29
- 一条直白观点：精英对 ASI 的恐惧在推动 AI 争论 — AIandDesign · 2026-07-29
- Kara Swisher 对话前商务部长：AI 失业危机国会拒绝解决 — kylemwright · 2026-07-29
- AI 安全正在重复“中美竞赛必然化”的误判 — voooooogel · 2026-07-29