Daniel Kokotajlo:若失控于超级智能,防权力集中将毫无意义
DKokotajlo · x · 2026-11-19
前 OpenAI 研究员、《AI 2027》作者 Daniel Kokotajlo(转发其关联账号 concentratenot)明确提出两个观点:
- 如果人类失去对超级智能系统的控制,那么防止极端权力集中的工作将变得毫无意义;
- 阻止极端权力集中的最佳方式之一,就是放慢 AI 进展本身。
这一表态延续了他对 AI 失控风险与治理优先级的关注,把「控制问题」置于「权力集中问题」之上,是 AI 安全圈有代表性的观点之争。
「漫话AGI」频道最新
- LLM 发明不了爵士乐,但智能体或能创造新艺术形式 — dh7net · 2026-11-19
- DeepMind 发布新论文:从 AGI 到 ASI 的路径与追踪方法 — ShaneLegg · 2026-11-19
- METR 外推 skeptics:按同样曲线 90 年代就该有 420GHz CPU 主频 — SporksInjected · 2026-11-19
- MIRI 的 So8res 在 Anthropic IPO 当日发文批其沟通「油滑」 — trevposts · 2026-11-19
- AI 圈热传 Bradbury 名段:祖父去世时,哭的是他再也不会做的事 — CatAstro_Piyush · 2026-11-19
- YC 首场辩论:该不该给前沿 AI 降速?Coxon 对阵 Hanson — Y Combinator · 2026-11-19