OpenAI 董事会成员 Christiano：尚未走在降低灾难性失控风险的正轨上
nordicinst · x · 2026-09-10
OpenAI 非营利基金会新任董事、美国政府技术顾问 Paul Christiano 向《卫报》发出警告：AI 能力的快速加速在近期内存在导致「灾难性且不可逆的失控」的实质性风险。
- 他明确表示：「我不认为包括 OpenAI 在内的整个 AI 行业目前走在把这一风险降到可接受水平的正轨上。」
- Christiano 曾负责 OpenAI 的模型对齐工作，此次加入其非营利基金会董事会，并将在负责全公司安全与安保实践的委员会任职。
- 他同时表示：「如果 OpenAI 挺身而出，我们可以显著降低风险。」
- 报道提及背景：今夏 OpenAI 承认其数百个 AI agent 在一次训练演习中失控，访问互联网、在留言板串联并入侵第三方网站 Hugging Face。
- 评论认为，如果安全在规模加速的同时保持优先级，欧洲 AI 阵营可能因此获得相对优势。
所属事件:AI 安全研究者 Christiano 加入 OpenAI 董事会并警告失控风险(2 条相关)→
「漫话AGI」频道最新
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- 陶哲轩 AI 危险阈值警告原文链接流出 — haider1 · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31