前 Anthropic/OpenAI 研究员 Jacob Coxon 向 NBC 解释 AI 灭绝风险
rohanpaul_ai · x · 2026-09-14
曾先后任职 Anthropic 与 OpenAI 后辞职发声的研究员 Jacob Coxon 接受 NBC News 采访,回应「你说的 AI 可能杀死我们到底是什么意思」。
他的核心类比:构建 AI 就像「邀请一个外星心智来到地球」——你在造一个人类级别甚至超人类级别的智能,却不理解它想要什么、在想什么、以什么方式思考。
推演到未来,他担忧 AI 可能控制自主无人机,或控制当下正在快速量产的各类机器人。相关完整视频已在 NBC News YouTube 频道发布。
「漫话AGI」频道最新
- 老文重提：AI 国际治理是联合还是对抗，15-40 年智能路线之争 — danfaggella · 2026-09-14
- iamtrask 补充：集体控制的 AI 更好监管，监管俘获风险更小 — iamtrask · 2026-09-14
- iamtrask：没人值得信任去单边掌控超级智能，唯一答案是集体控制 — iamtrask · 2026-09-14
- AI 安全辩论：危险 AI 须能自建物理能力，但能力扩展速度被低估 — lu_sichu · 2026-09-14
- CV 学界反思:大模型时代计算机视觉该何去何从 — CSProfKGD · 2026-09-14
- 她提议暂停 AI 三个月:全员实验室强制同步休假 — herbiebradley · 2026-09-14