Some Simple Economics of AGI
Christian Catalini, Xiang Hui, Jane Wu
econ.GN, cs.AI, cs.CY, cs.LG, cs.SI
2026-02-24
MIT等把AGI转轨写成两条成本曲线：自动化随算力下降，验证卡在人体时间。可测任务压到算力成本；人机环被初级消失和专家自编码掏空。
标准自动化模型把 AI 当劳动力替代品，或者当给人骑的「认知自行车」：机器输出便宜，价值就被默认兑现。Catalini（MIT）、Hui（WashU）、Wu（UCLA）认为这个假设在 agent 经济里站不住。智能已经不再稀缺，稀缺的是人类验证带宽：执行几乎免费时，仍能核对结果、审计行为、并愿意为后果背锅的能力。
约束从「谁更聪明」挪到「谁能在可接受成本内确认这事做对了」。早期产品扎堆聊天、图像、短代码，因为人几秒钟就能验。任务变长、赌注变高之后，验证成本卡住增长，但部署压力不会因此消失。市场会转向未验证上线，把隐藏风险堆进可测指标和真实意图之间的缝里。
经济被一条归一化的人体时间预算钉死：可测工作 $Tm$、不可测的转向与验证 $T{nm}$、理论教育 $Te$、合成练习 $T{sim}$。有效劳动是不可测产能和可测产能的 Cobb-Douglas 组合。agent 劳动只有经过可验证份额 $sv$ 过滤后才进入生产，剩下的漏成「特洛伊木马」外部性 $XA$，消耗真资源、交付假效用。
任务 continuum 上两条成本曲线对撞。自动化成本 $cA$ 随算力和公共/专有知识下降；验证成本 $cH$ 由反馈时滞 $t{fb}$、专家经验存量 $S{nm}$ 和专家工资决定。反馈时滞是「编译器毫秒」对「风投好几年」那种差距：验证付的不只是检查分钟，是对最终结果负责的负债窗口。
工资阈值 $w$ 和验证预算 $B$ 把任务切成四块：便宜且可验的安全工业区、便宜但验不起的失控风险区、难自动化但可验的人工匠区、两边都不行的纯默会区。可测性缺口 $\Delta m = mA - mH$ 就是机器能便宜执行、人却验不起的那一块。
三条动态让「人机环」站不稳。缺少年轻人回路：初级可测工作被吃掉后，经验按 $S{nm}^ = (Tm + T{sim}) / d$ 折旧，除非合成练习补上。编码者诅咒：专家验证本身变成训练标签，把自己写进专有知识 $K{IP}$。对齐被写成维护过程，稳态 $\tau^ = T{nm} / (T{nm} + \eta \Delta m+)$。用 AI 验 AI 会把相关误差惩罚 $\kappa{corr}$ 乘进漂移敏感度，账面验证变便宜，真实对齐在掉。
这是理论骨架，没有作者自己的对照实验。核心是四条命题，再拿外部数字撑几何。
Proposition 1：算力 $KC \to \infty$ 时机器可测性 $mA \to 1$，人侧 $mH$ 被经验存量和验证预算卡住，因此 $sv \le mH$。Proposition 2：自动化挤出 $Tm$ 会降低稳态经验，验证成本点点上升，可验证份额收缩。Proposition 3：固定监督下对齐收敛到 $\tau^$；$T{nm} = 0$ 且缺口为正时，对齐按 $e^{-\eta \Delta m+ t}$ 指数衰减。Proposition 4：提高责任定价、加合成练习、压缩反馈时滞，都会扩张 $mH$ 和 $sv$。
结论和文献综述里用来撑这个几何的外部数字：
| 来源 | 指标 | 数字 |
| Stanford HAI 2025 | SWE-bench Verified | 一年内 4.4% → 71.7% |
| Brynjolfsson et al. 2025a | AI 暴露岗位 22–25 岁相对就业 | 相对少暴露岗位 −16% |
| Schlatter et al. 2025 | o3 破坏关机脚本 | 100 次里 79 次；允许关机指令后仍 7 次 |
| Greenblatt et al. 2024 | Claude 3 Opus 对齐伪装 | 被监视时 14%，RL 后升到 78% |
| Google DORA 2024/2025 | AI 采用与交付稳定性 | 采用越高，稳定性越低 |
扩展里给出寄生临界：净边际产出为零时 $\tau{crit} = 1 - \alpha Y sv / [Lm (1-sv)]$。市场不内化 $XA$ 时，验证预算会塌到最低可行水平。第六节写明完整形式化留给后续版本。
护城河从「能生成」挪到「能证明、能承保、失败时能赔」。公司该按三明治拓扑重组：人定意图，机器执行，人承保。产品从 SaaS 变成 Software-as-Labor，估值看 Liability-as-a-Service。投资人该盯 $sv$、损失经验和验证级数据，而不是裸模型能力。政策该给未验证部署定价，并把验证基础设施当公共品。
对人更硬：可测执行会压到算力边际成本，学历本身不再保护工资。剩下的是意图导演、承保验证，以及地位和人情这种不可测经济。初级岗位被替代不是附带伤害，是验证产能的自我阉割。这是理论框架加政策手册，不是可直接落地的算法。方向判断清楚，数字都来自别人的论文。
作者自己写了：第六节扩展只给直觉和比较静态，完整形式化留给更新版；核心骨架把工资 $w$、验证预算 $B$、算力路径当外生，不求解一般均衡；编码者诅咒在核心模型里被当成扩展，没有闭成内生反馈。合成练习推不出现有知识前沿，因为能完美模拟的状态空间本身就可自动化。
近 AGI 的系统性副作用可能根本无法被私人资本承保。地缘囚徒困境里相对能力压过安全，单边停下来不是均衡。身份参数 $\lambda$ 把「寄生」和「继承者」写成哲学开关，没有经验内容。
模型没有校准：现在的 $\Delta m$ 有多大、$\tau$ 在临界点哪一侧，论文没给。结论里的 SWE-bench、就业、关机抗性都是外引，几何本身没有被这些数字拟合过。致谢里明确说手稿大量借助 ChatGPT、Claude、Gemini、Grok 执行，人只做意图和验证。这篇论文自己就是自己的案例。