Geoffrey Irving：模型已强于散文与形式数学，概念对齐研究仍有机会
geoffreyirving · x · 2026-09-04
DeepMind 研究员 Geoffrey Irving 在推文串中阐述对对齐研究的三点希望：
- 近期模型在散文写作和形式数学上都非常强，因此第三点是：由人类主导概念层面的对齐研究、把尽可能多的子任务交给机器，即使时间线很短也可能来得及产生意义。
- 他认为「粗糙的实证工作 + 少量关键原则」的组合，比单纯依赖粗糙实证更有胜算；严格的研究仍可能带来少数关键改变。
「漫话AGI」频道最新
- 安全研究者：ASI 存亡风险或先于 AI 大规模经济冲击到来 — davidmanheim · 2026-10-21
- Bombadil：用 400 万小时信号训练的植物电生理基础模型 — vboykis · 2026-10-21
- LLM 进化快于机器人:水电工等体力活或比白领工作更难被替代 — venturetwins · 2026-10-21
- 如果 AI 在集体主义文化中开发,会对齐成什么样? — mimi10v3 · 2026-10-21
- 研究者热议具身智能分层：需更可控的 S0 控制器与真正闭环的 S2 — chris_j_paxton · 2026-10-21
- Vibe coding 时代：学编程上移一层，拼的是系统与管线 — MoonL88537 · 2026-10-21