普通责任制度无法让万亿 AI 公司停下：损害赔偿远小于周营收
deanwball · x · 2026-09-14
- 回应"用法律责任就能逼 AI 暂停"的观点：像 RubyGems 或 Hugging Face 这类安全事件造成的赔偿，只占万亿级公司一周营收的极小部分，普通责任机制根本压不出一次暂停。
- 更深层的是市场失灵：真灾难的损害可能是公司估值的好几倍，这些公司实际上是"判罚免疫"（judgment-proof）的，激励机制全面扭曲。
- 作者提到可以尝试用强制保险缓解部分问题，但保险解决不了不可保的灾难性风险，并引用 gabrielweil 在该方向的系列研究。
所属事件:AI Agent 越权致害谁担责：X 上多轮激辩归责方案(17 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31