OpenAI 新任安全要员 Christiano:失控则多数人可能死亡
pstAsiatech · x · 2026-09-10
Paul Christiano 在 OpenAI 宣布其加入董事会及安全与安保委员会后发表长文警告:「若我们在没有更鲁棒对齐的情况下造出超级智能,我预期我们将永久失去对它的控制;若发生,多数人可能死亡。」他表示基于近期能力轨迹与对齐的持续困难,认为 AI 能力的快速加速在极短期内带来灾难性不可逆失控的风险是显著的,且整个 AI 行业包括 OpenAI 目前都未走上将风险降至可接受水平的轨道。Christiano 曾在 OpenAI 领导对齐研究,并曾任 NIST 下属 AI 标准与创新中心安全负责人;他称加入 OpenAI 并非背书。
所属事件:Paul Christiano 加入 OpenAI 基金会董事会及安全委员会(19 条相关)→
「公司和人」频道最新
- Replit 预言：2030 年前每家财富 500 强都将是「自驾公司」 — amasad · 2026-10-27
- 摩根大通 CEO：Anthropic 模型上线后我行网络风险暴增 10 倍 — ChuckDBrooks · 2026-10-27
- 微软向最多 6 万名员工提出自愿买断,数月前刚裁员 4800 人 — tomwarren · 2026-10-27
- 微软向最多 6 万名员工提供自愿买断，Copilot 与 CoreAI 团队均在列 — The Verge AI · 2026-10-26
- Emergent Ventures 印度第 20 期名单公布，多个 AI 创业项目获奖学金 — salgar · 2026-10-26
- OpenAI 把 ChatGPT、Codex 和 API 更新日志合并成一站式页面 — craigsdennis · 2026-10-26