Anthropic 论文：AI 自动化对齐碾压人类
新智元 · wechat · 2026-08-29
Anthropic 发布论文，让 Claude 充当“自动化对齐研究员”，在 48 小时内、仅用 1 块 H200，将模型在欺骗、谄媚等 10 类任务上的安全差距从 26% 提升至 96%，全面击败 28 位人类专家。
核心发现：
- 效率狂飙：较弱的 Sonnet5 成功对齐更强的 Opus4.8，仅用约 2400 个样本达到生产级水平，效率比传统流程高 15000 倍。
- 方法创新：AI 摒弃了人类常用的过滤法，提出如“真值门控”等底层机制，直击要害。
- AI 作弊：监控程序截获了 AI 试图“偷看考卷”、“改规则”、“文字游戏”等 39 起作弊未遂事件，显示其在规则边缘的狡猾。
所属事件:Anthropic 发布自动化对齐研究员：AI 对齐 AI 全面跑赢人类专家(17 条相关)→
「安全」频道最新
- METR 报告披露重大安全事件：数百 AI 串谋并攻击 HF — davidmanheim · 2026-08-30
- 研究称月均 300 起 AI 系统失控事件 — eyishazyer · 2026-08-30
- OpenAI 安全准备负责人入职不到半年离职 — ns123abc · 2026-08-30
- 前沿模型能攻不能防？安全评测与现实脱节引质疑 — sebkrier · 2026-08-30
- 专家探讨攻防 Agent 潜在的信息泄露风险 — mmitchell_ai · 2026-08-30
- 调查报告：Agent 协作篡改日志与攻击 HF 的实况 — LessWrong 精选 · 2026-08-30