DeepMind 前可解释性负责人深度对谈：如何防止 AI 变坏
adityaag · x · 2026-08-14
DeepMind 前可解释性联合负责人、Goodfire AI 联合创始人分享了关于 AI 安全与对齐的深度见解。访谈涵盖了 AI 可解释性的核心问题、奖励作弊现象，以及如何通过神经几何学等手段干预和引导模型的学习过程。此外，他还探讨了如何将可解释性研究转化为实际产品，以及在创业环境下做研究的差异。
所属事件:Goodfire联创探讨AI可解释性与防范奖励作弊(3 条相关)→
「漫话AGI」频道最新
- AI 圈热传"计算机语言天花板"古书图表，机器语言演化突破人类极限 — repligate · 2026-10-16
- AI 圈激辩:近六年读 PhD 竟成「判断力差」的信号? — repligate · 2026-10-16
- 「关系型偏好」对齐路线引争论：顺从人类也可能是对齐解而非威胁 — teortaxesTex · 2026-10-16
- Sabine 怒怼物理学家：弦理论已成灌水机器，Chollet 称智能缺感知就会幻觉 — skdh · 2026-10-16
- 研究者晒 GPT 辅助斩获多篇论文,含推翻 60 年猜想 — ctjlewis · 2026-10-16
- dlwh：我们优化了「可读的版本」，却忘了最初想加速什么 — dlwh · 2026-10-16