用不完全契约理论理解 AI 对齐：Hadfield-Menell 重提两篇经典论文
dhadfieldmenell · x · 2026-10-03
对齐研究者 Dylan Hadfield-Menell 在讨论中引用自己与合作者的论文《Incomplete Contracting and AI Alignment》（arXiv:1804.04268），主张借助法律与经济学中的不完全契约框架来系统理解 AI 对齐问题：委托-代理失配本就是经济分析的核心对象，而人类契约之所以能运转，依赖文化、法律等外部制度结构为契约缺口提供隐含条款；对齐研究应关注如何让 AI 复现人类将个体契约与外部支持结构相连接的认知过程。他同时提到《Inverse Reward Design》展示了「限定范围的奖励 + 推断」可以缓解这一挑战。
「漫话AGI」频道最新
- Meta:AI 与数学家合作产出六篇论文,攻克五个开放难题 — AIatMeta · 2026-10-03
- 「AI 非必需技术」引反驳：生产率与癌症疫苗怎算非必需？ — JHochderffer · 2026-10-03
- 前 FTC 官员回击 Rob Wiblin：为何有人愿阻止低概率风险 — neil_chilson · 2026-10-03
- Ethan Mollick：别再说"我们还早"，企业已在用 AI，只是转变更慢 — emollick · 2026-10-03
- NBER论文:技术进步简化工作,工人被「商品化」压低工资 — PeterHndrsn · 2026-10-03
- Anthropic 研究员反问：AI 若算人就该交所得税 — robleclerc · 2026-10-03