tszzl 长文：AI 危险性应超核武，国际协调难成，对齐才是 Plan A
tszzl · x · 2026-11-04
研究者 tszzl 系统阐述其对 AGI 安全的大局判断：
- 理想情形是各国将 AI 视为比核武器更危险的存在，并建立国际协议约束；但他不指望短期内出现全球性的"相互确保协调"，除非经历大规模破坏性演示、危险武器积累与边缘博弈。
- 因此他把"解决充分对齐"视为 Plan A——因为根本不存在能阻止所有人拥有这项技术的方案。
- 他认为"一切按计划进行"的世界不值得推演，坏事必然发生：有人会把 AI 接上互联网、黑客组织会用 AI 破坏、某个不信对齐的团体会发展出自己无法控制的智能并很快失控、失控 AI 会自我改进等。
「漫话AGI」频道最新
- 丧偶自闭症用户自建本地 AI 伴侣 Sai:不依赖任何可被关停的商业服务 — repligate · 2026-11-04
- VC 断言:2026 年投资组合里没有推理创业公司,就像 2024 年没有前沿实验室 — annbordetsky · 2026-11-04
- 领域专家吐槽：外行凭第一性原理对专业领域高谈阔论最让人破防 — sebkrier · 2026-11-04
- LeCun 新加坡演讲拆解 JEPA：从数学原理讲到机器人应用 — ylecun · 2026-11-04
- 开发者观点：把 AI 当甩苦活的工具，等于放弃全部红利 — shauseth · 2026-11-04
- 1952 年 UNIVAC 提前预测美国大选结果，CBS 只敢播出修正值 — dreamwieber · 2026-11-04