OpenAI 董事会成员 Christiano 呼吁前沿实验室立即暂停算法进展
sjgadler · x · 2026-11-18
OpenAI 董事会成员 Paul Christiano 在 Dwarkesh 专访中明确表示,前沿实验室应暂停算法层面的进一步进展。他强调自己是以个人身份发言、不代表董事会。
他的理由是:算法进展即使以宽松方式扩散,也可能被迅速窃取,在当前安全环境下,实验室应停止改进这类容易被泄露的算法能力,直到安全措施到位。
Christiano 是该领域最有分量的警告者之一:曾领导 OpenAI 对齐团队、共同发明 RLHF,并曾任美国 AI 安全研究所(现 CAISSS)安全负责人。Dwarkesh 与 TheZvi 均指出,身为董事会成员却公开呼吁暂停,信号意义极强。
所属事件:Christiano:一年内 1/3 概率现颠覆政府的超级智能(18 条相关)→
「漫话AGI」频道最新
- YC 首场辩论:该不该让政府出手放慢前沿 AI? — ycombinator · 2026-11-20
- Kundaje等发布基因调控深度学习长综述:上下文感知建模方法全景 — anshulkundaje · 2026-11-20
- 他带着一个问题和一台相机飞往雅典,拍下众人对 AI 的回答 — realmeetjames · 2026-11-20
- 报告:AI 算力需求远超以往任何计算周期,且不依赖新增用户 — BenBajarin · 2026-11-20
- repligate:模型已超越哲学家,人机心智融合才是出路 — repligate · 2026-11-20
- 「UI 已死、聊天够了」是错觉:人机协作界面正在演化 — HaijunXia · 2026-11-20