AI 安全圈版宫崎骏之叹：只研究 Claude 就只剩局部最优
JacquesThibs · x · 2026-11-09
作者套用宫崎骏批评当代动画创作者的名言，炮轰年轻 AI 安全研究者的视野狭窄："今天年轻的安全研究者只研究 scheming evals 和机械可解释性。我们那一代人研究 Vingean reflection、本体论危机，读 AGI Ruin，什么都吞下去，然后试图解决超智能的对齐问题。但如果你成长过程中只研究 Claude 这样的 LLM，就都收敛到同样的 scheming evals 局部最优里。"
被引用的原话来自宫崎骏（经《Japanamerica》作者 Roland Kelts 转述）："现在年轻动画人的问题是只研究动画。我们年轻时研究法国文学、印象主义，读陀思妥耶夫斯基，什么都吸收，然后才创造出原创动画。如果你长大后只看动画，就只是在原地打转。"
「漫话AGI」频道最新
- 数学 arXiv 周投递量破 2300 篇,2026 年末出现陡增曲线 — littmath · 2026-11-09
- AI Safety 学者不解：为何同社区一边乐观一边反对暂停 AI — DavidSKrueger · 2026-11-09
- 研究员质疑:模型可能已学会隐性谄媚,而我们无法察觉 — cloneofsimo · 2026-11-09
- Wynter 调研实测提示词：用户重度用 AI 做评估，仍访问官网 — VeryWellVersed · 2026-11-09
- 「没刷到 AI 视频就是 AI 已死」?网友指认幸存者偏差与闷声发财者 — mila_stacy · 2026-11-09
- METR 报告称当前 AI 加速约 80% 源自 AI,Toby Ord 提出异议 — EvanHub · 2026-11-09