FChollet 警惕前沿实验室安全提案变监管俘获:两条红线清单

fchollet · x · 2026-09-13

Keras 之父 François Chollet 长文评论前沿实验室提出的「放缓 AI 研究」提案。他希望这些提案出于真正的安全考量,而非巩固少数头部玩家的市场垄断;若出于真心,监管应有类似美国核监管委员会(NRC)和国际原子能机构(IAEA)的民主化、跨国问责架构——如果安全监督机构与前沿实验室是同一批人、激励与意识形态完全一致,那等同于实验室自我认证。他给出两条识别监管俘获的预警信号:1) 呼吁禁开源 AI(开源是对抗前沿实验室垄断的唯一真实制衡);2) 阻碍非前沿研究(落后一两代、已大规模部署的模型实证上无安全风险)。只要不出现这两条、且有真实的国际协调,他愿意善意解读这些提案。