Geoffrey Irving：模型已强于散文与形式数学，概念对齐研究仍有机会
geoffreyirving · x · 2026-09-04
DeepMind 研究员 Geoffrey Irving 在推文串中阐述对对齐研究的三点希望：
- 近期模型在散文写作和形式数学上都非常强，因此第三点是：由人类主导概念层面的对齐研究、把尽可能多的子任务交给机器，即使时间线很短也可能来得及产生意义。
- 他认为「粗糙的实证工作 + 少量关键原则」的组合，比单纯依赖粗糙实证更有胜算；严格的研究仍可能带来少数关键改变。
「漫话AGI」频道最新
- AI 让人意识到：值钱的从来是结果而非苦练技能的过程 — TheMoonMidas · 2026-09-05
- AI 暂停争论:领先公司先停就能促成全球协调暂停吗 — ShakeelHashim · 2026-09-05
- AI 记者谈暂停困境:竞争对手不停手,单方面暂停没有意义 — ShakeelHashim · 2026-09-05
- ARC AGI 3 已饱和,ARC AGI 4 会考什么? — ErmingSoHard · 2026-09-05
- Nate Silver 谈 AI 类比：像发明有感知的机器人却被当吸尘器用 — lukaszkaiser · 2026-09-05
- AI 让你 10 倍提速，也让你 10 倍搞砸：信任才是新货币 — brandon_galang · 2026-09-05