Claude 自主对齐研究：AI 提出方案优于 28 位专家
rohanpaul_ai · x · 2026-08-29
Anthropic 发布 Fellow 研究报告，探索 Claude 是否能自主对齐其他 AI。实验给 Claude 48 小时和 1 GPU，让其自主研究、提议、训练并测试小模型的对齐方法。结果显示，Claude 发现的安全训练方法优于 28 位经验丰富研究人员的单向创意。研究涉及五个并行智能体，通过隐藏测试和能力门控防止过拟合和明显退化，展示了递归自我改进的前沿进展。
所属事件:Anthropic 自动对齐研究员全面超越人类专家(22 条相关)→
「安全」频道最新
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- AI 安全圈口水战:风险研究被指「公司行为」,团队负责人下场回应 — logangraham · 2026-10-16
- Brave 浏览器 AI 助手接入 GLM,推出端到端加密对话 — gnukeith · 2026-10-16