AI 安全研究者反思 control 叙事与自动化对齐策略

剑桥教授 David Krueger 对 Marius Hobbhahn 关于某结果的解释表示尊重但不完全认同，认为故意 scheming（蓄意欺骗）只是 AI 存在性风险的一小切片，AI safety 社区不应过度聚焦于此。与此同时，研究者在 PIBBSS Symposium 2025 发表约 63 分钟演讲，主张自动化对齐研究不能依赖「抓到 AI 使坏就叫停」的策略，引发对 AI 安全研究路径的讨论。

2026-11-06 ~ 2026-11-06 · 2 条相关

• David Krueger 质疑 AI control 叙事：故意 scheming 只是 X-risk 的小切片 — JacquesThibs · 2026-11-06
• PIBBSS 演讲：自动化对齐研究不能靠「抓到 AI 使坏就叫停」 — JacquesThibs · 2026-11-06