反末日论新论据:灾难若连续增长就不会一步到灭绝

JoshPurtell · x · 2026-09-14

Josh Purtell 提出针对 AI 末日论者的"连续性假说":灾难规模 = 尾部对齐失误 × 能力水平,两者若都连续增长,则最坏情形也是从小灾难到中灾难再到大灾难。他把 Huggingface 事件视为"小灾难",切尔诺贝利/福岛级别为"中",灭绝为"大",认为末日论者必须假设从小灾难一步跳到灭绝——而这不合理。

后续补充:他认为 Huggingface 危机确实给 OpenAI 造成了问题,福岛级事故几乎必然终结责任公司并引发行业暂停;末日论者原本主张"灭绝会毫无预警",如今他们只能退守"早期连续、晚期 foom",这个立场很牵强。