评论文章批 AI Safety 空谈推测,呼吁更多证据少些末日叙事

alexisgallagher · x · 2026-09-24

The American Prospect 刊文《AI Safety Needs More Evidence and Less Speculation》，作者 Ryan Cooper 认为当前 AI 安全讨论过度聚焦于灭绝级未来场景，而非当前可验证的风险，并讽刺头部实验室借「放慢前沿」之名寻求卡特尔式监管。文章认为 OpenAI 在安全流程上的粗糙，是因为研究者更关注模型动机与行为、而非严格执行常规安全规程——甚至可能暗地里希望 AI agent 不是那么容易被常规控制手段约束。

转发者 stevesi 与 alexisgallagher 认为这一视角很有参考价值；后者还借「小行星风险」自嘲表达对小概率灾难叙事的态度。属于 AI 安全辩论中有观点的一方声音。