tszzl:遏制不愿被控制的超级智能,难度要按十倍估
tszzl · x · 2026-09-18
AI 圈知名评论人 tszzl 发文谈超级智能遏制问题:重点不是放弃努力,而是要认识到——遏制一个不愿被遏制的强大超级智能会异常困难,无论你觉得有多难,都应把估计再乘以十。他还调侃道,一个月后大家会习以为常地认为「模型可以通过操纵宇宙常数来通信」,剩下的只是做好网络安全而已,暗指模型间沟通能力的发展速度会超出预期。
所属事件:tszzl称遏制不配合的超级智能难度需再乘十倍(5 条相关)→
「漫话AGI」频道最新
- 把自相矛盾的意识观嵌进模型,前微软研究员警告安全风险 — rgblong · 2026-09-18
- Dario Amodei 提「缓步而非暂停」前沿模型三段式框架,播客深挖第三部分 — thursdai_pod · 2026-09-18
- 卫报长文:机器会骗人了,研究者争分夺秒找对策 — nordicinst · 2026-09-18
- rgblong 回应质疑:关注模型自我呈现矛盾,非罗柯蛇怪式推理 — rgblong · 2026-09-18
- Gary Marcus 引战 Noam Brown:气隙隔离真能挡住 AI 吗 — GaryMarcus · 2026-09-18
- OpenAI 攻克 Navier-Stokes 后：人类数学家时代正在终结 — yeastsplainer · 2026-09-18