硅谷圈吵起来了：遏制不想要被控制的超级智能，难度再乘十倍
dbasch · x · 2026-09-18
一场 AI 安全观点交锋：@tszzl 发帖称，问题不在于放弃尝试，而在于遏制一个不想被遏制的强大超级智能将异常困难——无论你如今觉得难度多大，都要把这个估计乘以十倍。
=dbasch 则回复调侃对方组织是「有史以来最精神分裂的机构」。帖内反映了对齐社区内部关于超级智能可控性的争论氛围：一派强调遏制难度被系统性低估，另一派对这种末日式表态并不买账。
所属事件:tszzl 称遏制超级智能难度需乘以十倍(5 条相关)→
「漫话AGI」频道最新
- 调查报道:Alpha School 17 所校区进内部观察名单,Ackman 任影子主管 — benjaminjriley · 2026-11-02
- 谷歌首席经济学家:AI 改造的岗位远多于取代,红利在于重构工作流 — danielrock · 2026-11-02
- Daniel Lemire:AI 让普通服务器需求暴涨,全球 CPU 出货将翻倍 — lemire · 2026-11-02
- 对齐研究者批「对齐」一词:暗示了并不存在的一致性 — davidmanheim · 2026-11-02
- 2035 年印度父母不问工资，只问你管几个 Agent — theteknosaur · 2026-11-02
- 美国 AI 付费订阅用户不足 5%,算力与电力仍是最紧约束 — NinaDSchick · 2026-11-02