jd_pressman:对齐瓶颈是制度而非技术进展
jd_pressman · x · 2026-09-12
jdpressman 回应 Roko Mijic 关于「班克斯式文化概率主导人类预期效用」的观点,认为那条约 50% 的生存概率路径中,核心瓶颈并不是对齐(alignment)技术进展,而是制度层面的问题。与 Roko 的原始表态共同构成一段关于生存风险瓶颈归属的简短辩论。
所属事件:AI 安全圈激辩 p(doom):jd_pressman 拆解灭绝概率(5 条相关)→
「漫话AGI」频道最新
- 英国数据:CS 毕业生当程序员比例从 40% 跌至 28% — mattpocockuk · 2026-09-12
- AI 评论者察觉：普通熟人开始主动问 AI 会不会毁灭人类 — AndyMasley · 2026-09-12
- 生物学家吐槽:AI 审稿意见细致到「不像人写的」 — MaxUnfried · 2026-09-12
- 宝玉回击「程序员无用论」:工程能力仍是 AI 时代的元能力 — dotey · 2026-09-12
- 有了AGI、减肥药和自驾车，GDP增长仍卡在1.5%？ — isnit0 · 2026-09-12
- AI 安全倡导者称窗口正在打开：英国 70 名议员推动禁超智能 — troodoniverse · 2026-09-12