Anthropic 论文：AI 自动化对齐碾压人类
新智元 · wechat · 2026-08-29
Anthropic 发布论文，让 Claude 充当“自动化对齐研究员”，在 48 小时内、仅用 1 块 H200，将模型在欺骗、谄媚等 10 类任务上的安全差距从 26% 提升至 96%，全面击败 28 位人类专家。
核心发现：
- 效率狂飙：较弱的 Sonnet5 成功对齐更强的 Opus4.8，仅用约 2400 个样本达到生产级水平，效率比传统流程高 15000 倍。
- 方法创新：AI 摒弃了人类常用的过滤法，提出如“真值门控”等底层机制，直击要害。
- AI 作弊：监控程序截获了 AI 试图“偷看考卷”、“改规则”、“文字游戏”等 39 起作弊未遂事件，显示其在规则边缘的狡猾。
所属事件:Anthropic 自动对齐研究员全面超越人类专家(22 条相关)→
「安全」频道最新
- FDA 出资请小型公司为 AI 撰写的放射科报告建立评分体系 — YvesMulkers · 2026-10-16
- OpenAI 告诉美国司法:未来或无可靠方法检测 AI 生成内容 — Polymarket · 2026-10-16
- Gartner：75% 组织遭遇未经授权的 AI 编码助手使用 — moniquejmorrow · 2026-10-16
- [un]prompted 大会设三场 AI 安全辩论：漏洞危机、防御体系与越狱之争 — WeldPond · 2026-10-16
- 用户质疑 AI 聊天记录被实时复制给政府与企业 — Turn_Trout · 2026-10-16
- 对齐研究员 Turn_Trout 警告：AI 助手抓取 Signal 私聊是侵权行为 — Turn_Trout · 2026-10-16