NYU 研究员:NLE 对齐论证忽视网络安全等领域专家判断
sebkrier · x · 2026-09-05
NYU Stern 研究员 Nate Witkin 指出 AI 对齐领域的一个盲点:极端风险论证高度依赖网络安全、生物风险等其他领域的专业知识,但对齐研究者往往不够承认这一点、也不够表达谦逊。
- 他的核心观察:几乎所有对齐相关的极端风险论证都要「途经」网络或生物风险等其他领域
- 而这些领域专家几乎总是比 AI 对齐圈更谨慎乐观、或只是温和悲观
- 他认为这一系统性反差是对当前对齐工作严谨性的负面信号
作者已将原被删帖的修改版及其他文章发布在 Substack 上。
「漫话AGI」频道最新
- 博主构想超智能路线：连接 80 亿人智慧驱动科研自动化 — Brian821 · 2026-09-05
- 研究者点破大众 AGI 认知矛盾:既信智能换主,又信人类永掌权 — danfaggella · 2026-09-05
- 引用 Thurston 1994 年旧文，争论数学证明的价值与激励之争 — marc_lelarge · 2026-09-05
- 李开复:中美前沿 AI 差距缩至六个月,开源模式将赢得更大份额 — Justgototheeffinmoon · 2026-09-05
- 提出「全息式」内在伦理模型：分布式写死伦理原语防自我改写 — GlenBradley · 2026-09-05
- Gary Marcus 炮轰 OpenAI 不坦率：监控缩减或本可避免多起事故 — GaryMarcus · 2026-09-05