AI 研究者发长文亮明 11 条立场：拒绝加速至死也拒绝全面安全主义

jachiam0 · x · 2026-09-16

一位 AI 安全研究者整理了自己当前关于 AI、安全与技术进展的系列立场：

两头都拒绝：既拒绝「加速到死」（accelerate and die），也拒绝完全冻结技术进步的安全主义。
支持具体安全监管：赞成将组织安全最佳实践制度化，如事故安全信息管理、培训记录、数据来源溯源等。
认真对待存在性风险：主张严肃对待失控 AI 风险，国家安全战略应优先具备检测、击败和威慑失控 AI 的能力，包括 kill switch（但他认为仅靠 kill switch 远远不够）。
用 AI 扩大社会安全网：主张利用现有及近期 AI 进步大幅降低基本商品与服务的成本，让所有人的下限超过今天 1% 人群的上限。
中美竞争立场：希望美国赢得与中国的战略竞争，但不希望竞争滑向底线竞赛，主张稳定、互利的关系。
质疑概念完整性：「超级智能禁令」是否是良定义的政策概念存疑；frontier pacing（前沿限速）概念也不完整——模型进步不是唯一的高破坏性到达过程，前沿模型还会解锁其他科学领域的前沿发现，需要研究整个科学前沿的「限速」意味着什么。他认为「脆弱世界假说」的问题表述是成立的（但反对 Bostrom 的全景监控式方案）。

作者还提到自己签署了《Pacing the Frontier》公开信，认为政府需要有限速前沿的抓手。整体是一份立场光谱中偏「负责任的加速+制度化安全」的代表性发言。

「漫话AGI」频道最新