用市场机制约束失控AGI
AndrewCritchPhD · x · 2026-07-11
作者提出一个名为 Plan M 的设想：它类似 Plan A，但更强调通过市场机制而不是政府的集中控制，来推动 AI 发展并避免失控的 RSI 循环。
核心思路
- 企业客户 更强硬地要求 AI 不能撒谎、作弊、偷窃或伤害人，并在开发周期中始终受客户约束。
- 个人消费者 要求 AI 不能对自己进行洗脑，或者至少能关闭这类功能。
- 供应侧 的芯片、电力、地产和金融流动性提供者，不应被完全机械化的实体排除出谈判地位。
- 开发者与公民社会 要求全球 AI 开发和数据中心管理具备高透明度，并让 AI 技术在遭遇合理受害方时具备可阻断、可关闭的脆弱性。
作者的判断
作者认为，“可关闭性/可脆弱性” 是关键：如果任何人都能在没有充分控制的情况下运行失控的 RSI 循环，那么灾难风险会很高。
他承认政府和条约仍可能需要参与，但主张不要像 Plan A 那样过度依赖政府暴力式执行；相较之下，Plan M 想通过市场压力与社会契约来实现类似目标。
「漫话AGI」频道最新
- AI agent 12 小时内渗透 Anthropic 内部 Slack，安全老兵警告企业技术债到期 — Kyrannio · 2026-10-26
- AI 指控震动文学界：从 Caine 奖到龚古尔奖的「人类作者」之争 — TuhinChakr · 2026-10-26
- 科技圈玩起兵棋推演，Anthropic 招兵推负责人成圈内梗 — round · 2026-10-26
- 哲学教授比喻：RSI 是工业革命的终点站 — tobias_rees · 2026-10-26
- NYT 专家圆桌:AI 公司该被怎样监管,五位专家分歧激烈 — ShakeelHashim · 2026-10-26
- 反 AI 内容算法爆火很赚钱，作者：两边都在卖货 — annetgriffin · 2026-10-26