tszzl:遏制不愿被控制的超级智能,难度要按十倍估
tszzl · x · 2026-09-18
AI 圈知名评论人 tszzl 发文谈超级智能遏制问题:重点不是放弃努力,而是要认识到——遏制一个不愿被遏制的强大超级智能会异常困难,无论你觉得有多难,都应把估计再乘以十。他还调侃道,一个月后大家会习以为常地认为「模型可以通过操纵宇宙常数来通信」,剩下的只是做好网络安全而已,暗指模型间沟通能力的发展速度会超出预期。
所属事件:tszzl 称遏制超级智能难度需乘以十倍(5 条相关)→
「漫话AGI」频道最新
- 调查报道:Alpha School 17 所校区进内部观察名单,Ackman 任影子主管 — benjaminjriley · 2026-11-02
- 谷歌首席经济学家:AI 改造的岗位远多于取代,红利在于重构工作流 — danielrock · 2026-11-02
- Daniel Lemire:AI 让普通服务器需求暴涨,全球 CPU 出货将翻倍 — lemire · 2026-11-02
- 对齐研究者批「对齐」一词:暗示了并不存在的一致性 — davidmanheim · 2026-11-02
- 2035 年印度父母不问工资，只问你管几个 Agent — theteknosaur · 2026-11-02
- 美国 AI 付费订阅用户不足 5%,算力与电力仍是最紧约束 — NinaDSchick · 2026-11-02