Guillaume Verdon 引 Eddy Lazzarin：市场与法律已是对齐超级智能的机制

beffjezos · x · 2026-09-23

Extropic 创始人 Guillaume Verdon（beffjezos）引用 Hugging Face 研究员 Eddy Lazzarin 对 AI 末日论的批评。核心论点：世界上早已存在准超级智能实体——公司和国家，它们的存在从未以通过「对齐测试」为前提，而是靠法律约束；法律太慢时则用密码学等技术机制限制。市场（加上作为最后手段的暴力能力）才是超级智能之间需要的对齐机制。Lazzarin 认为所谓「通往天堂的阶梯」式末日论证不成立，Hugging Face 被黑、gym hacking 等事件应归为网络安全/控制失效，而非超级智能失控的先兆。