OpenAI 警告递归自我改进或超出人类理解与监督能力
Polymarket · x · 2026-09-23
据 Polymarket 转述，OpenAI 发出警告：递归自我改进可能加速到「超出我们集体理解进展、评估风险并维持有意义的人类监督」的程度。这是前沿 AI 公司对自身技术路径的罕见风险表态，凸显对齐与监督挑战的紧迫性。
「漫话AGI」频道最新
- 对齐研究员 ArthurConmy:不减速的话 p(doom)>0.1 — ArthurConmy · 2026-09-23
- 对齐研究员:若无减速或暂停,p(doom)>0.1 — ArthurConmy · 2026-09-23
- 研究者用公开数据测算：限制人均投稿数救不了 ICLR 的负载 — jonasgeiping · 2026-09-23
- OpenAI 遭黑客数日内攻破,安全专家质疑前沿模型优势论 — ben_j_todd · 2026-09-23
- Diamandis 喊话「恐惧才是流行病」：P(fab)>P(doom) — PeterDiamandis · 2026-09-23
- Casper：把「更多评估」当放缓手段极弱，内嵌评估质量天差地别 — StephenLCasper · 2026-09-23