同上:jd_pressman 重申 Gillen-Barnett 是近年最佳毁灭论证
jd_pressman · x · 2026-11-21
- jdpressman 向 @AbsoluteBlack2 表示,他对近年最佳毁灭论证的诚实评估是 Gillen 与 Barnett 的 LessWrong 报告:脱离训练分布需要危险的后果主义智能体,而对齐本身是分布外问题,人类必须解决否则灭亡。
- 本帖与作者另一条包含报告链接正文的帖子内容重合,属于同一段讨论的补充回复。
所属事件:研究者称 Gillen-Barnett 毁灭论证正被最新模型削弱(2 条相关)→
「漫话AGI」频道最新
- Alpöge 宣布 Claude 辅助的黎曼猜想证明,17.5 万个 Lean 文件被拆解分析 — sudoraohacker · 2026-11-21
- AI 圈激辩:语言比预期容易,是否推翻了 Yudkowsky 的末日论? — jd_pressman · 2026-11-21
- beh_zod 撰文回应科技就业报告:工作是活动的重组而非消失 — beh_zod · 2026-11-21
- Gary Marcus 断言:软银受挫、英伟达承压,本代 AI 公司钱荒将至 — GaryMarcus · 2026-11-21
- JD Pressman:Gillen-Barnett 毁灭论证正被最新模型结果削弱 — jd_pressman · 2026-11-21
- Percy Liang:可以同时相信 AI 会颠覆世界、且瓶颈依然存在 — RishiBommasani · 2026-11-21