AI安全事件责任链错位:厂商兜售自主性却不担责

joshua_saxe · x · 2026-10-10

Joshua Saxe 提出「激励至上论」:AI 安全最该做对的事,是给整条责任链上的每个环节正确分配因果与惩罚。他以律师场景举例:错误的外包数据 → 未过滤的 AI 实验室数据团队 → 给出错误决策的模型 → 未拦截的法律 AI 应用公司 → 无监督跑 agent 的律所 → 输掉官司的客户,每一环都应获得与其角色匹配的惩罚和信息反馈,才能被激励去修正。

他认为当前机制严重失衡:AI 公司一边宣传技术可在云端自主跑完整个周末,一边既不承担相应责任,也缺乏事故信息共享机制;尽管口头重视安全,实际安全投入很低(附图表),AI 安全损害赔偿也远未成规模。若把反馈回路修正,安全投入会自然增长——在 AI 自动化即将渗透信息经济和实体经济的当下,这必须现在做对。