JD Pressman:Gillen-Barnett 毁灭论证正被最新模型结果削弱
jd_pressman · x · 2026-11-21
- jdpressman 在与 @AbsoluteBlack2 的讨论中提出:近几年最强的「AI 毁灭论」论证是 Jeremy Gillen 与 peterbarnett 于 2024 年 1 月发表在 LessWrong 的报告,其核心逻辑是:要做大范围新颖科学研究,AI 必须近似「后果主义」智能体;训练基于外部行为,无法精确锁定内在目标;而对齐本身是分布外问题,人类必须解决否则灭亡。
- 作者认为近期(未指明的)模型能力结果「严重削弱」了这套论证,进而削弱整体的末日论立场。被引报告原文主张:即便有显著反制措施,能力强大 AI 的目标错设与灾难是默认结局,除非有根本性进展。
所属事件:研究者称 Gillen-Barnett 毁灭论证正被最新模型削弱(2 条相关)→
「漫话AGI」频道最新
- beh_zod 撰文回应科技就业报告:工作是活动的重组而非消失 — beh_zod · 2026-11-21
- Gary Marcus 断言:软银受挫、英伟达承压,本代 AI 公司钱荒将至 — GaryMarcus · 2026-11-21
- Percy Liang:可以同时相信 AI 会颠覆世界、且瓶颈依然存在 — RishiBommasani · 2026-11-21
- Google 研究科学家:LLM 让我变得更聪明,学习能力达到生涯巅峰 — docmilanfar · 2026-11-21
- AI 安全观点交锋:能力、权力与失控是三回事,不能混为一谈 — random_walker · 2026-11-21
- 一句话观点:AI 把人类机械化到「取代我们等于拯救我们」 — PierceLilholt · 2026-11-21