用市场机制约束失控AGI
AndrewCritchPhD · x · 2026-07-11
作者提出一个名为 **Plan M** 的设想：它类似 Plan A，但更强调通过市场机制而不是政府的集中控制，来推动 AI 发展并避免失控的 RSI 循环。 ### 核心思路 - **企业客户** 更强硬地要求 AI 不能撒谎、作弊、偷窃或伤害人，并在开发周期中始终受客户约束。 - **个人消费者** 要求 AI 不能对自己进行洗脑，或者至少能关闭这类功能。 - **供应侧** 的芯片、电力、地产和金融流动性提供者，不应被完全机械化的实体排除出谈判地位。 - **开发者与公民社会** 要求全球 AI 开发和数据中心管理具备高透明度，并让 AI 技术在遭遇合理受害方时具备可阻断、可关闭的脆弱性。 ### 作者的判断 作者认为，**“可关闭性/可脆弱性”** 是关键：如果任何人都能在没有充分控制的情况下运行失控的 RSI 循环，那么灾难风险会很高。 他承认政府和条约仍可能需要参与，但主张不要像 Plan A 那样过度依赖政府暴力式执行；相较之下，Plan M 想通过市场压力与社会契约来实现类似目标。