zetalyrae 辩超智能对齐:对齐够则 UBI 失业,不对齐则经典末日
zetalyrae · x · 2026-09-08
zetalyrae 与 @jawillick 讨论 AGI 风险路径的并行性:他认为两种坏结局只需其一成立即可——模型超智能且"足够对齐"时,结果是失业加 UBI 的反乌托邦;模型超智能但日益错位时,则是经典意义上的末日。他表示这一观点值得进一步深思。
所属事件:网友辩超级智能两种结局：UBI 失业或末日(2 条相关)→
「漫话AGI」频道最新
- 《Profecía》：预测模型背后藏着伪装成客观的道德判断 — CarissaVeliz · 2026-09-08
- 用芝士碎销量反讽「编程已死」:会喊口号的人不会真去做 — heyneighbor · 2026-09-08
- 经济学人分析：AI 已在美国创造约 100 万个新岗位 — markjeffrey · 2026-09-08
- Marius Hobbhahn：2026 年 AGI 安全开局黯淡，reward hacking 更黏更蠢 — kalladomcdowell · 2026-09-08
- 视觉、消化都高度多重可实现，意识凭什么例外？延续 AI 意识之辩 — yeastsplainer · 2026-09-08
- Gary Marcus 被指立场自相矛盾，本人回应「我答过几百遍」 — GaryMarcus · 2026-09-08