前 OpenAI 研究员:GPT-3 问世起「kill-switch」就已消亡,开源是安全最后希望

suchenzang · x · 2026-09-18

前 OpenAI 研究员 Suchir 这样的从业者 Suchenzang 重提 AI 竞赛起源:她认为「kill-switch」的幻想在 2020 年 GPT-3 论文发表时就已破灭——连怀着好意的安全派(暗指 Anthropic)也在争夺资源中推动了竞赛加速;ChatGPT 发布后,复刻 GPT-N 更成为多国的国家利益议题。她进一步讽刺安全圈如今从「kill-switch」转向空谈「pacing misalignment」,并质疑:如果 IP 真的风险高到可能导致人类灭绝,为什么这些公司还设在加州——一个无法执行竞业禁止的地方?她的结论是:开源如今是安全派仅存的希望,只有基于真实模型才能发展真正的技术方案并建立可执行的新标准。