一篇经典监督论文，被拿来影射 AI 的递归监督问题
sebkrier · x · 2026-07-26
这条帖子贴出一篇经典论文 《But Who Will Monitor the Monitor?》，并把它包装成 AI 安全/治理里迟早会被“重新发明”的思路：递归监督和验证器落地问题。
论文讨论的是：当系统里需要一个“监工”去发现偏差时，谁来监督监工？作者提出一种合约设计，让监工本身对监控技术负责，从而即使监工的观测是私有且有成本的，激励机制依然能成立。
论文还进一步分析了：在什么条件下，这类合约能真正让监工有动力好好工作，并把结果与虚拟执行、重复博弈理论联系起来。
「漫话AGI」频道最新
- 「把末日论者全赶出 AI 公司」,mark_k 引发安全派论战 — mark_k · 2026-09-11
- Adam Marblestone 播客书单：从智能演化到数字心智 — KordingLab · 2026-09-11
- David Patterson：反对 AI 与数据中心是蠢还是恶？ — davidpattersonx · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11