MIRI 旧文重被审视:对齐路线与 AI 实验室「利益共生」引发担忧

jessi_cata · x · 2026-11-22

对齐社区围绕 Ohabryka 提出的担忧展开讨论:某些 AI 安全阵营人物与头部 AI 实验室存在直接的社会关系与股权利益绑定,「朋友要么在 X 实验室工作、要么靠其股权或利润资助」,构成明显利益冲突。

jessicata 梳理 MIRI 的历史策略:2016 年 Malo 曾称 MIRI 与「许多领先 AI 团队」关系良好,不打算等「规定 AGI 必须以某种方式构建的法律」,协调是理想目标;2017 年「Operational adequacy」一文对民主正当性着墨甚少,Eliezer 甚至暗示「以民主正当性收尾、导致几乎所有有知觉存在无法投票的论证是自我挫败的」。作者据此推测 MIRI 2010 年代计划的位置正类似于如今被质疑的「Bob 的位置」,而 Scott Alexander 2026 年一边推动国际 AI 条约等法律路径,一边保留 Plan C,其联盟立场令讨论者更为担心。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →