LessWrong 长文:臭氧层空洞的治理奇迹能给 AI 安全什么启示
LessWrong 精选 · rss · 2026-09-22
核心论点
在《蒙特利尔议定书》签署 39 周年之际,作者以 CFC(氟氯烃)与臭氧层空洞的治理史类比 AI 风险:两者共同点是——危害可能在通过所有已知安全测试的情况下依然致命、等待「警告信号」可能为时已晚、且任何一方拥有该能力就足以毁灭所有人,因此必须全球协调。
关键历史脉络
- 理论诞生(1973-74):UC Irvine 的 Rowland 让博士后 Molina 研究 CFC 在大气中的去向,意外发现氯会在平流层催化分解臭氧,可能让紫外线毁灭地表生态。
- 行业反击:CFC 是惰性安全化学品,所有既有安全评估都通过了,产业界斥新理论为科幻——与今天「模型测评都过了」的论调相似。
- 消费者与州法规先行:公众抵制喷雾罐重创 CFC 销量,俄勒冈等州率先立法;市场已在萎缩使后来的全面禁令更容易。
- 「黑暗年代」:1978 年联邦禁止气雾剂用途后陷入 8 年僵局——政府要铁证才肯全面禁止,但臭氧损耗的实证证据要几十年后才出现;模型预测反复摇摆,Rowland 甚至发表了不利于己方的发现以维护科学诚信。
对 AI 的启示
臭氧治理成功依赖理论驱动的预防性行动、公众压力和市场先行萎缩,而 AI 的问题更难,但历史证明前所未有的全球协调并非不可能。
「漫话AGI」频道最新
- Google 与 DeepMind 组建 AI 经济学团队,聚焦 AGI 经济影响研究 — soumitrashukla9 · 2026-09-22
- Halvar Flake 演讲:计算机科学正从精确学科变成概率学科 — soumitrashukla9 · 2026-09-22
- Epoch AI 研究员:2026 年 AI 能力首次对世界产生实质影响 — Jsevillamol · 2026-09-22
- 学界大佬警告:灌水论文留公开记录,恐毁研究生涯 — cocoweixu · 2026-09-22
- Josh Rosen 提出构建 System 1.5:用确定性架构连接快慢模型 — iamrobotbear · 2026-09-22
- AI 圈争论:大模型做不了递归自我改进? — ctjlewis · 2026-09-22