从业者痛批美国 AI 安全法案:10^25 FLOP 阈值冻结创新只养律师

sanjaykalra · x · 2026-09-24

企业 AI 落地从业者 Sanjay Kalra 长文批评一项拟议中的美国 AI「安全」法案,称之为「恐慌立法」而非真正的监管。

要点:

他承认行业需要护栏(模型幻觉、agent 越权操作、安全问题真实存在),但认为该法案定义不清:「在多数领域超越人类认知」不是工程标准,而是为检察官写的措辞。
10^25 FLOP 阈值几乎覆盖所有企业实际依赖的前沿模型;「前驱特征」清单(自我改进、越权访问、生化武器设计)会波及药物发现等双用途研究,且无医疗/材料科学豁免。
新设 AI 部门审批前,暂停一切「高级」模型训练微调,意味着有用工作先停摆、豁免后谈。
后果:法律不确定性冻结预算、人才外流,大公司靠法务团队继续玩,其他人只能等;单边冻结做不到阻止中国等其他项目继续训练。
他的替代主张:出口管制与盟友协调才是真正有效约束,而非设立新部门、雇律师并称之为「监督」。

「安全」频道最新