用 AI 监督 AI：治理学者提出「不可触碰」调查员模型构想

sethlazar · x · 2026-09-13

关于前沿模型审计机制设计的讨论。原帖提出三项关键前提：一是扩大 METR 这类机构规模并招揽更多顶尖人才；二是审计者需要自己的「调查员模型」来理解所见信息——必须用 AI 监督 AI，关键在于什么样的模型能可信、准确且无偏；三是激励要平衡，不能让审计者觉得唯一职责就是叫停一切，且在中国未参与的情况下，不对称的官僚式激励会让机制失败。Stanford 治理学者 Seth Lazar 补充：我们还需要「不可触碰」的模型、AI 版的 Elliott Ness 来主持调查，对齐机构应思考如何构建它们，而不只是对齐前沿模型本身。