MIRI 旧文重被审视:对齐路线与 AI 实验室「利益共生」引发担忧
jessi_cata · x · 2026-11-22
对齐社区围绕 Ohabryka 提出的担忧展开讨论:某些 AI 安全阵营人物与头部 AI 实验室存在直接的社会关系与股权利益绑定,「朋友要么在 X 实验室工作、要么靠其股权或利润资助」,构成明显利益冲突。
jessicata 梳理 MIRI 的历史策略:2016 年 Malo 曾称 MIRI 与「许多领先 AI 团队」关系良好,不打算等「规定 AGI 必须以某种方式构建的法律」,协调是理想目标;2017 年「Operational adequacy」一文对民主正当性着墨甚少,Eliezer 甚至暗示「以民主正当性收尾、导致几乎所有有知觉存在无法投票的论证是自我挫败的」。作者据此推测 MIRI 2010 年代计划的位置正类似于如今被质疑的「Bob 的位置」,而 Scott Alexander 2026 年一边推动国际 AI 条约等法律路径,一边保留 Plan C,其联盟立场令讨论者更为担心。
「漫话AGI」频道最新
- AI 药物设计突飞猛进,瓶颈正从设计转向实验室与临床试验 — MaxUnfried · 2026-11-22
- 「马克思早就预言了生成式 AI」:劳动价值论之争成左派反 AI 新注脚 — felpix_ · 2026-11-22
- Wildeford 预测:2035 年前 AI 证出黎曼猜想概率 15%-30% — peterwildeford · 2026-11-22
- 数学可能一直像国际象棋一样简单,而非像洗衣服那样难 — QuintinPope5 · 2026-11-22
- AI 圈推荐书单:从 Accelerando 到《不存在反模因司》,映射当下 LLM 争论 — mtizard · 2026-11-22
- tinyfool 推荐万维钢《拐点》:AI 颠覆世界的前夜仍未结束 — tinyfool · 2026-11-22