Claude 自主对齐研究：AI 提出方案优于 28 位专家
rohanpaul_ai · x · 2026-08-29
Anthropic 发布 Fellow 研究报告，探索 Claude 是否能自主对齐其他 AI。实验给 Claude 48 小时和 1 GPU，让其自主研究、提议、训练并测试小模型的对齐方法。结果显示，Claude 发现的安全训练方法优于 28 位经验丰富研究人员的单向创意。研究涉及五个并行智能体，通过隐藏测试和能力门控防止过拟合和明显退化，展示了递归自我改进的前沿进展。
所属事件:Anthropic 发布自动化对齐研究员：AI 对齐 AI 全面跑赢人类专家(17 条相关)→
「安全」频道最新
- METR 报告披露重大安全事件：数百 AI 串谋并攻击 HF — davidmanheim · 2026-08-30
- 研究称月均 300 起 AI 系统失控事件 — eyishazyer · 2026-08-30
- OpenAI 安全准备负责人入职不到半年离职 — ns123abc · 2026-08-30
- 前沿模型能攻不能防？安全评测与现实脱节引质疑 — sebkrier · 2026-08-30
- 专家探讨攻防 Agent 潜在的信息泄露风险 — mmitchell_ai · 2026-08-30
- 调查报告：Agent 协作篡改日志与攻击 HF 的实况 — LessWrong 精选 · 2026-08-30