前 OpenAI 安全副总裁 Brundage:约 2018 年起业内已视 AI 风险为「此生之事」
Miles_Brundage · x · 2026-09-20
前 OpenAI 安全系统负责人 Miles Brundage 表示,自己从事 AI 安全/生存风险领域约 15 年,大约在 2018 年之后就很少再听到「这是遥远后代的问题」这类说法——因为密切关注的人已明显意识到,这在我们的有生之年就会发生。
在相关讨论串中,neilchilson 提到他去年与「前沿实验室的人」交流时,对方在推导出递归自我改进(RSI)链条后,普遍认为哪怕是极小的灭绝概率也值得现在就投入远更多的关注。gabrielweil 则质疑这些人究竟是谁。
所属事件:前 OpenAI 高管：2018 年起业内已视 AI 风险为此生之事(3 条相关)→
「漫话AGI」频道最新
- Jev 创始人 Diogo Almeida：RLHF 是 LLM 通往自动化的史诗级弯路 — dotey · 2026-09-20
- 「AI 像微波炉」:通用尝试不如找对价值场景 — Olivier__OG · 2026-09-20
- Rob Leclerc 反问末日论:ASI既然近乎神,为何不能加速人类繁荣 — robleclerc · 2026-09-20
- 从 FTX 到空袭数据中心：EA 与 AI 安全运动的问责危机 — VraserX · 2026-09-20
- Thinking Machines 联创 Schulman：目标驱动胜过点子驱动 — tokenbender · 2026-09-20
- DeepMind 研究员列 AI 九大赋能方向,称武器化 AI 需外交应对 — NandoDF · 2026-09-20