剑桥学者 Krueger：AI 安全圈正转向，evals 自监管被认定适得其反
DavidSKrueger · x · 2026-11-10
剑桥大学教授、AI 安全研究者 David Krueger 发长帖称，他与 AI 安全圈多人争论三年多后，感觉风向可能接近转折点，一些观点正被「迟来地」接受：
- 技术对齐不太可能及时解决
- 持久的 AI 暂停（moratorium）是可能的
- 坦率谈论 AI 风险、呼吁全面停下的做法是好的
- evals 与 RSP 等自我监管适得其反，拖延了真正的监管
- Anthropic 不可信任
帖内有明显争议性表态（点名 Anthropic），代表了安全社区内部路线分裂加剧的信号。
「漫话AGI」频道最新
- 牛津学者 Wooldridge 主持撰写报告：定义「AI 扩展时代」 — wooldridgemike · 2026-11-10
- 研究员：前沿实验室私有模型领先公开版差距正重新拉大 — teortaxesTex · 2026-11-10
- 数据中心受阻将倒逼 AI 公司提升单位算力效率 — burny_tech · 2026-11-10
- 斯坦福 AI100 百年研究发布 2026 报告，记录 2021-26 生成式 AI 主流化 — wooldridgemike · 2026-11-10
- AI 研究者 Togelius 招博士生有感:智能体时代如何开启研究生涯 — burny_tech · 2026-11-10
- 一张梗图道破 AI 未来之争：指数增长派 vs 混沌派 — mattbeane · 2026-11-10