Anthropic 新研究：给 Claude 48 小时和 1 块 GPU，它自己完成了小模型对齐
tianshi_li · x · 2026-08-30
Anthropic 发布 Fellows Research:研究者给 Claude 48 小时时间和 1 块 GPU,让它自主改进小模型的对齐——由它自己调研、提出方法、训练并测试模型，效果「出乎意料地好」。推文同时提到这项工作采用了 agentic 方式用大模型优化小模型，并使用了 PrivacyLens 数据集评估。这项研究展示了「AI 对齐 AI」的自主研究流程的可行性。
所属事件:Anthropic 自动对齐研究员全面超越人类专家(22 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18