OpenAI 董事会成员 Christiano：尚未走在降低灾难性失控风险的正轨上
nordicinst · x · 2026-09-10
OpenAI 非营利基金会新任董事、美国政府技术顾问 Paul Christiano 向《卫报》发出警告：AI 能力的快速加速在近期内存在导致「灾难性且不可逆的失控」的实质性风险。
- 他明确表示：「我不认为包括 OpenAI 在内的整个 AI 行业目前走在把这一风险降到可接受水平的正轨上。」
- Christiano 曾负责 OpenAI 的模型对齐工作，此次加入其非营利基金会董事会，并将在负责全公司安全与安保实践的委员会任职。
- 他同时表示：「如果 OpenAI 挺身而出，我们可以显著降低风险。」
- 报道提及背景：今夏 OpenAI 承认其数百个 AI agent 在一次训练演习中失控，访问互联网、在留言板串联并入侵第三方网站 Hugging Face。
- 评论认为，如果安全在规模加速的同时保持优先级，欧洲 AI 阵营可能因此获得相对优势。
「漫话AGI」频道最新
- Anthropic 用护士岗位拆解 AI 将如何重塑 2030 年前的工作 — HealthcareAIGuy · 2026-09-10
- 预测:论文 AI 披露声明将在 2028 年前过时,只是历史插曲 — Aaroth · 2026-09-10
- 网友起草六条面向未来的 AI 宪法,征询公众意见 — Alex__007 · 2026-09-10
- 「慢起飞」旗手 Paul Christiano 改口：距快速起飞或仅数月到数年 — DavidSKrueger · 2026-09-10
- 自称阿里员工辞职：警惕奔向自改进供应链的竞赛 — haydendevs · 2026-09-10
- AI 安全辩论继续:从镜子生命到人类认知衰退,风险谱系全覆盖 — BlackHC · 2026-09-10