Lawfare 提议建前沿 AI 互保公司,用共担风险倒逼安全标准
Miles_Brundage · x · 2026-09-24
Cristian Trout、Rune Kvist 与 Rajiv Dattani 在 Lawfare 发文，提出用「前沿 AI 互保公司」来 bootstrap AI 治理。
问题：现行普通法责任体系不足以管理前沿 AI 风险——法院慢且缺乏专业能力，多数案件以和解收场，而非对事故的技术性调查。仿照 FINRA 设立自律组织（SRO）的方案在华盛顿难获支持，且有被被监管企业俘获的风险。行业目前趋向成立自愿性私营标准组织，但作者认为它需要「牙齿和利害关系」才有效。
方案：借鉴保险业数百年判例——保险公司为无历史数据的灾难风险承保时，必须建立灾难模型并依赖领域专家的技术审计与评估。据此提议由前沿 AI 公司共同持股成立一家互保保险公司：公司自身资金处于风险之中，会有动力执行安全标准、同行评审事故、并汇集安全研发投入。
所属事件:Lawfare 提议前沿 AI 实验室共建互保公司对冲灾难风险(2 条相关)→
「安全」频道最新
- AWS 曝去年两次宕机由自家 AI 工具引发，Kiro 智能体自主删改环境致 13 小时中断 — jeremyakahn · 2026-09-24
- 教皇的AI顾问警告：大实验室正像卡特尔一样行事 — nordicinst · 2026-09-24
- 学者讨论：接受OpenAI付费撰写评估会损害委员会公信力 — littmath · 2026-09-24
- 衡量递归自我改进:实验室应公开的 8 项关键数据点 — nitarshan · 2026-09-24
- AI 治理认证清单：ISACA 四项进阶认证与 CompTIA SecAI+ 汇总 — iamKierraD · 2026-09-24
- 美参议院今日听证 Flock Safety 全国 AI 车牌监控网络 — Polymarket · 2026-09-24