对齐研究者批「对齐」一词:暗示了并不存在的一致性
davidmanheim · x · 2026-11-02
AI 安全研究者 David Manheim 在与 ASI 支持者的争论中指出,「对齐」一词的问题不在于「对齐到谁的价值」,而是整个概念暗示了某种并不存在的一致性——把理解不充分的直觉外推到新场景,再宣称它「对齐」了某人的意图。被引用的 @IlVateII 则声称任何可行的对齐共识框架都远胜于缺陷人类领袖的反复无常,Manheim 对此表示「你一直在说『对齐』,仿佛它有什么含义」。
「漫话AGI」频道最新
- Bengio 在柏林数字峰会警告:前沿 AI 缺乏可信的安全计划 — Yoshua_Bengio · 2026-11-02
- AI 安全研究员调侃:CEO 们承诺的暂停条件早已成真却无人叫停 — davidmanheim · 2026-11-02
- Luiza Jarovsky 解析 AI 安全危机:技术、法律、监管三线并进 — LuizaJarovsky · 2026-11-02
- 「因果模式就是全部所需」：Keith Ward 热议没有硬问题的智能观 — burny_tech · 2026-11-02
- 美国人口普查局按行政令把调查里的「AI」改称「Super Intelligence」 — Simon Willison · 2026-11-02
- 开发者吐槽:AI生成求职信泛滥,其博客阅读量从70万暴跌至7千 — ericelliott_ · 2026-11-02