保险比慈善更适合激励 AI 对齐研发

dhadfieldmenell · x · 2026-08-18

转帖提出保险是比慈善更好的 AI 对齐 R&D 激励结构。保险公司在事故发生时赔付，这使其既热衷于预防事故的研发，又不愿被特定公司捕获，从而抵消捐赠带来的财务捕获风险。保险公司可将研发外包给现有优秀机构（如 METR）。历史上保险业资助了大量安全研发（如汽车碰撞测试、消防安全、核检查）。原文引用部分则提到大厂模型训练成本外部性，认为应向独立安全组织注资，但 METR 等机构需保持独立。