纽约市议会 AI 举报人听证：Kokotajlo 等警告 AI 能力失控风险
sjgadler · x · 2026-10-06
纽约市议会举办 AI 举报人听证小组，多位前前沿实验室员工发表警示性判断：
- Jacob Coxon：我们正走在开发出极强能力 AI 系统的轨道上，但控制它们的进展远未跟上。
- Daniel Kokotajlo：很快 AI 将制造出能再制造 AI 的 AI，局面将越来越难看清、越来越难干预。
- Alex Turner：直接看这些公司此前违背过的种种承诺即可——凭什么这次会不一样？
整体氛围偏悲观，指向实验室自我治理失效与对齐失控的现实担忧。
所属事件:纽约市议会连办AI安全听证会 前沿实验室吹哨人警告失控风险(4 条相关)→
「漫话AGI」频道最新
- 社科一半助理教授岗位要求做 AI 研究，学界跟风滞后引吐槽 — RexDouglass · 2026-10-06
- 纽约时报专栏：Ada Lovelace 早已回答了关于 AI 的核心问题 — nytopinion · 2026-10-06
- AI 替你动脑后,"大脑健身房"会像健身房一样普及吗 — birchlse · 2026-10-06
- threepointone 谈「开源之死」:代码仓库将取代知识沉淀 — threepointone · 2026-10-06
- 研究者困惑：为何没有机构做真正的开放式对齐科学 — sebkrier · 2026-10-06
- 数学界缺乏实证传统，费马奖千份错误证明暴露领域盲区 — RexDouglass · 2026-10-06