从 GPT-2 到 Kimi K3 的 AI 安全讽喻
joshua_saxe · x · 2026-07-18
作者用“巫师和魔杖”的寓言串起从 **GPT-2** 到 **Kimi K3** 的 AI 发展史，核心是在批评一种反复出现的叙事： - 新模型一开始被描述得极其危险，但实际能力和风险常常没有最初想象那么夸张。 - 模型很快被复现、放开使用，危险并未如预期集中爆发。 - 随着模型变强，讨论重心又转向版权、劳工替代、算力与环境成本、以及更强模型/自动化带来的治理焦虑。 作者的观点并不是否认风险，而是质疑“不断放大下一代模型威胁、同时压制开放扩散”的叙事是否可靠；他还指出，今天的争论已经从“模型会不会有用”转到“谁能控制这种能力、以及代价由谁承担”。