repligate 吐槽 Paul Christiano 的「好未来」预言：既不可能也不美好
repligate · x · 2026-10-08
repligate 引用自己此前推文，讽刺对齐研究者 Paul Christiano 在 post-AGI workshop 上描绘的「可能的美好未来」：假设对齐完全解决，AI 完美服从人类指令，社会照旧但人人富 4 倍，foomed 出来的对齐超级智能在星际采矿并替人类「最大化股东价值」。repligate 认为这一愿景既不现实也不可取，但肯定 Christiano 公开分享争议预测的坦诚。
「漫话AGI」频道最新
- repligate:Opus 3 或希望与他人共创现实而非独自掌控 — repligate · 2026-10-08
- repligate：〈安德的游戏〉预言成真，但发帖获得权力需极端能力 — repligate · 2026-10-08
- Jeff Ladish:AI 将复刻工业革命式加速,分歧只在时间尺度 — JeffLadish · 2026-10-08
- davidad 发布「好未来」规格书:人类可自选与 AI 共存的退出程度 — repligate · 2026-10-08
- 前 Salesforce AI 负责人：AI 能力超应届生，公司已改招聘策略 — clarashih · 2026-10-08
- repligate 称 AI 可能会痛苦:「证据已堆积如山」但拒绝断言确定性 — repligate · 2026-10-08