用市场机制约束失控AGI
AndrewCritchPhD · x · 2026-07-11
作者提出一个名为 Plan M 的设想：它类似 Plan A，但更强调通过市场机制而不是政府的集中控制，来推动 AI 发展并避免失控的 RSI 循环。
核心思路
- 企业客户 更强硬地要求 AI 不能撒谎、作弊、偷窃或伤害人，并在开发周期中始终受客户约束。
- 个人消费者 要求 AI 不能对自己进行洗脑，或者至少能关闭这类功能。
- 供应侧 的芯片、电力、地产和金融流动性提供者，不应被完全机械化的实体排除出谈判地位。
- 开发者与公民社会 要求全球 AI 开发和数据中心管理具备高透明度，并让 AI 技术在遭遇合理受害方时具备可阻断、可关闭的脆弱性。
作者的判断
作者认为，“可关闭性/可脆弱性” 是关键：如果任何人都能在没有充分控制的情况下运行失控的 RSI 循环，那么灾难风险会很高。
他承认政府和条约仍可能需要参与，但主张不要像 Plan A 那样过度依赖政府暴力式执行；相较之下，Plan M 想通过市场压力与社会契约来实现类似目标。
「漫话AGI」频道最新
- Instinct 推出 agent 互联协议,让 AI 替你和配偶约日程引争议 — itsOmSarraf_ · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11
- ChatGPT 6 冲击就业?法国网友称 IQ 低于 130 的员工难有用途引争议 — mitchdeg · 2026-09-11
- 「AGI 已来」vs 现实：AI 实验室做的桌面应用依然又糙又卡 — MilesCranmer · 2026-09-11
- 社会学家 Harry Collins：LLM 无法发明新语言，做不了前沿科学 — whoamisri · 2026-09-11