Anthropic 支持的 AI 安全法案：致死伤超 50 人方可拦截模型发布

emax · x · 2026-10-19

Anthropic 参与拟定的 AI 安全法案将「造成超过 10 亿美元损失，或致死/重伤超过 50 人」设为政府可阻止模型发布的风险阈值，且风险须源于生物武器、模型脱离开发者控制或网络攻击，措辞类似加州去年签署的 SB 53。

作者对比了 1999 年基因治疗临床试验中单名患者 Jesse Gelsinger 死亡后的后果：运行该试验的研究所被解散、主持研究的高级科学家被禁止临床工作 5 年、基因治疗领域经费与研究活动遭受长达十年的深度削减。作者认为科技与生物医学的风险文化差异巨大，随着 AI 公司日益深入生物医学研究，这种文化冲突不可避免。