禁止造 AGI 算监管俘获?X-risk 政策观点激辩
GarrisonLovely · x · 2026-09-09
Garrison Lovely 回应 Heidy Khlaaf 关于「X-risk 是监管俘获机制」的说法。Khlaaf 认为末日论者借军备竞赛叙事推动放松国防、核能与网络安全领域既有监管,属监管俘获。Lovely 反驳称,最直接的反 AI 风险手段是刑事化开发 AGI 及递归自我改进(RSI)等前导技术——而 RSI 恰是行业烧掉数百亿美元后最重要的出路,刑事化它显然违背行业利益。他还分析 Bernie 与 Casar 的提案:禁止建造超级智能并暂停前沿 AI 开发,直至安全监管到位;他认为一旦真正有权的监管者到位,鉴于业内公认不知如何安全造 AGI,实际上等于永远无法建造,因此该提案虽然比他的主张温和,仍明确不利于行业。
「漫话AGI」频道最新
- 马斯克:除真实世界 AI 外都不难,具身智能是硬骨头 — CyberRobooo · 2026-09-10
- Nathan Lambert 三句话定调:进展很快、 rollout 需谨慎、世界没在终结 — natolambert · 2026-09-10
- Mike Frank：人类已被超级智能公司夺权，ASI 短期内难速胜 — MikePFrank · 2026-09-10
- 经济学家 Ben Moll:AI 带来两位数 GDP 增长?大概率不会 — soumitrashukla9 · 2026-09-10
- AI 推进速度将如何改写增长、工资与失业格局？ — soumitrashukla9 · 2026-09-10
- 前 OpenAI/Anthropic 预训练研究员辞职:两家公司在豪赌超级智能 — emax · 2026-09-10