前 MIRI 研究员否认 AI 安全圈曾「计划制造权力集中的对齐单例」
ohabryka · x · 2026-11-22
针对 @jessicata 关于「2010 年代主流 AI 安全界曾计划通过对齐单例 AI 获取决定性战略优势、绕过各国政府防御」的说法,前 AI 安全从业者 ohabryka 直接否认:自己从未参与任何此类计划,尽管她曾在很多相关讨论现场,但计划不可能具体到那种程度,也谈不上是「主流 AI 安全界的有组织计划」。她推测曾有人详细讨论过这一话题,但很难相信存在任何获得组织内部共识、以此为行动步骤的正式「计划」文件。
所属事件:2010 年代 AI 安全「单例」路线引发争议(2 条相关)→
「漫话AGI」频道最新
- 研究员感叹:文明知识根基可能大量是模型式的「编造」 — Pascallisch · 2026-11-22
- Ben Goertzel 谈 AI 证明黎曼猜想:奇点临近,算力决定数学荣耀 — bengoertzel · 2026-11-22
- pivotal acts 之争升级:jessi_cata 引 Scott Alexander 2022 年辩护文佐证 — jessi_cata · 2026-11-22
- jessi_cata 长文复盘:从《超级智能》到 pivotal act,AI 安全圈「计划」之争的文本依据 — jessi_cata · 2026-11-22
- LessWrong 研究:循环 Transformer 显著增强无 CoT 推理,或更难监控 — CFGeek · 2026-11-22
- 「希尔伯特纲领迎来了辩护」:百年后我们正逼近形式化判定机 — teortaxesTex · 2026-11-22