zetalyrae 的 ASI 偏好序：宁要全员 ASI，不要少数人的仁慈极权
esrtweet · x · 2026-11-13
zetalyrae 发文《MAD World》给出其当前偏好排序：1) 没有 ASI；2) ASI 遍及所有人；3) ASI 只归少数人。其论点是：在意图对齐已解决、超智能广泛分布的世界里，每个人都强一万倍、可用 prompt 造武器，维持和平靠相互确保摧毁（MAD）。明显的失败模式是一个坏行为者在其他 ASI 反应前毁灭人类。但如果无法阻止 AI，「人人拥有」明显优于「仅选民拥有」——相互确保摧毁比仁慈的不可逃脱极权更有尊严。
「漫话AGI」频道最新
- RL 时代「遗忘」变简单：不给 RL 环境就删能力 — maksym_andr · 2026-11-13
- a16z 前副国家安全顾问发文：用 AI 以机器速度防御美国关键基础设施 — a16z · 2026-11-13
- 「非意识 AI 可杜绝 AI 苦难」章节引热议：付不起 token 的 agent 像乞丐 — erikphoel · 2026-11-13
- 用 LLM 精读康德？作者称「康德式 Mentat」可能几乎不存在 — jessi_cata · 2026-11-13
- ADP 数据：AI 高暴露行业 30 岁以下就业大跌 7%，年长者反增 — ColinWPLewis · 2026-11-13
- AI 采用的 9、10 级：编排之上是用竞争 agent 群做多元宇宙模拟 — danshipper · 2026-11-13