Jan Leike 与 Csaba Szepesvari 激辩:AI 安全标准该如何为明年的模型制定
janleike · x · 2026-09-11
OpenAI 对齐团队负责人 Jan Leike 与强化学习学者 Csaba Szepesvari 就 AI 安全监管展开交锋。
Szepesvari 主张:问题不在于「放慢速度」,而在于建立标准并让人对达标负责——就像赛车,该在无人的赛道上做,而不是在大街上;做不到就别做。Leike 则反问:如何为明年才训练的模型编写标准?如何预测最大的风险会是什么?这一疑问点出了前瞻性安全标准制定的根本困难。
所属事件:Leike 呼吁为 AI 竞速建立限速机制，Szepesvári 反驳应先立安全标准(8 条相关)→
「漫话AGI」频道最新
- OpenAI 证实攻坚第二个千禧年大奖难题,递归自我改进争论升温 — AndyMasley · 2026-09-11
- Paras Chopra:别只追全自主,AI 应做人类的「外骨骼」 — CatAstro_Piyush · 2026-09-11
- 前 OpenAI/Anthropic 研究员辞职:两厂正鲁莽冲刺自我改进超级智能 — csuwildcat · 2026-09-11
- Richard Ngo 长文:AI 安全议程已被 OpenAI 与 Anthropic 收编 — RichardMCNgo · 2026-09-11
- 前 Google 工程师反讽:死于中国模型比死于美国模型更有尊严 — moultano · 2026-09-11
- Eric Zelikman 预告新研究:要理解人类,先建模人类 — niloofar_mire · 2026-09-11