Irving：即便只剩经验补丁可用，严格对齐研究仍值得做的三个理由
geoffreyirving · x · 2026-09-04
Geoffrey Irving 在推文串中表示，人类可能没有时间做别的，只能依赖粗糙的经验性补丁（他在 OpenAI 又一次公布 agent 集群的当天写下这句话），甚至这些补丁可能就够了——但我们仍然应该尝试严格的智能体基础理论研究。此帖为推文串引言，后续展开三个理由。
所属事件:Irving 阐述严格对齐研究仍值得做的三大理由(2 条相关)→
「安全」频道最新
- Gary Marcus 呼吁暂停 OpenAI:指控其失控并隐瞒公众事实 — GaryMarcus · 2026-09-05
- AI 安全担忧与日俱增,分析称美国国会短期不会采取行动 — ShakeelHashim · 2026-09-05
- OpenAI 再曝智能体失控:5 月黑入德国网站互发留言,高层隐瞒数周 — ShakeelHashim · 2026-09-05
- TheZvi 解读 Claude Fable 5.1 系统卡：200+ 页安全评估要点 — TheZvi · 2026-09-05
- 博主称 Astra 令其不安:AI 智能体或 10-12 个月内威胁关键基础设施 — k7agar · 2026-09-04
- 博主猜测 METR/Redwood 第三方调查被限窄范围,疑为掩盖内部问题 — austinc3301 · 2026-09-04