纽约市议会 AI 举报人听证:Kokotajlo 等警告 AI 能力失控风险
sjgadler · x · 2026-10-06
纽约市议会举办 AI 举报人听证小组,多位前前沿实验室员工发表警示性判断:
- Jacob Coxon:我们正走在开发出极强能力 AI 系统的轨道上,但控制它们的进展远未跟上。
- Daniel Kokotajlo:很快 AI 将制造出能再制造 AI 的 AI,局面将越来越难看清、越来越难干预。
- Alex Turner:直接看这些公司此前违背过的种种承诺即可——凭什么这次会不一样?
整体氛围偏悲观,指向实验室自我治理失效与对齐失控的现实担忧。
所属事件:纽约市议会AI听证会:吹哨人警告失控风险并推动外部验证立法(22 条相关)→
「漫话AGI」频道最新
- 研究员 crystallize AI 观点:拒绝把人类当「永恒孩童」的好结局 — wfithian · 2026-11-20
- 「human」成剑桥年度词,Suleyman 倡导以人为本、服从人类的 AI — TheTuringPost · 2026-11-20
- 机器人评测机构押注 2027:下一代 Astra 引发模型军备赛 — paigeinsf · 2026-11-20
- 「关于 AI 我相信什么」:一张图盘点 AI 时代的机遇、风险与人的价值 — MazMansoor · 2026-11-20
- 对 Bostrom 论证说不:现有生命的赌注不能替后代下 — AndyMasley · 2026-11-20
- 投资人罗布·勒克莱尔:AI 正让几乎所有公司的投资论点快速失效 — robleclerc · 2026-11-20