jessi_cata 长文复盘:从《超级智能》到 pivotal act,AI 安全圈「计划」之争的文本依据
jessi_cata · x · 2026-11-22
承接 ohabryka 的否认,jessicata 认为双方分歧部分源于对「计划」一词的理解不同,并举出文本依据:《超级智能》一书系统讨论了 Sovereign AI、Genie AI 与 oracle AI,而 oracle AI 被主流 AI 安全界当作「靶子」,认为它要么会自主变成 agent、要么力量不足以形成决定性战略优势;tool AI 路线同样被认为没有真正直面对齐问题。MIRI 则推广过 sovereign AI(CEV)与 genie AI(task AGI、pivotal acts)的组合;pivotal acts 相关论述认为用 AI 做数学题或赚钱「不足以改变棋盘」,必须采取能重塑格局的行动。
「漫话AGI」频道最新
- Ben Goertzel 谈 AI 证明黎曼猜想:奇点临近,算力决定数学荣耀 — bengoertzel · 2026-11-22
- pivotal acts 之争升级:jessi_cata 引 Scott Alexander 2022 年辩护文佐证 — jessi_cata · 2026-11-22
- LessWrong 研究:循环 Transformer 显著增强无 CoT 推理,或更难监控 — CFGeek · 2026-11-22
- 「希尔伯特纲领迎来了辩护」:百年后我们正逼近形式化判定机 — teortaxesTex · 2026-11-22
- Palmer Luckey 谈武器 AI:把 ChatGPT 装进导弹与自主武器的区别 — justin_hart · 2026-11-22
- 播客讨论脑机接口如何改变人类,被称为 unusual bet — dr1337 · 2026-11-22