AI 研究者发长文亮明 11 条立场：拒绝加速至死也拒绝全面安全主义
jachiam0 · x · 2026-09-16
一位 AI 安全研究者整理了自己当前关于 AI、安全与技术进展的系列立场：
- 两头都拒绝：既拒绝「加速到死」（accelerate and die），也拒绝完全冻结技术进步的安全主义。
- 支持具体安全监管：赞成将组织安全最佳实践制度化，如事故安全信息管理、培训记录、数据来源溯源等。
- 认真对待存在性风险：主张严肃对待失控 AI 风险，国家安全战略应优先具备检测、击败和威慑失控 AI 的能力，包括 kill switch（但他认为仅靠 kill switch 远远不够）。
- 用 AI 扩大社会安全网：主张利用现有及近期 AI 进步大幅降低基本商品与服务的成本，让所有人的下限超过今天 1% 人群的上限。
- 中美竞争立场：希望美国赢得与中国的战略竞争，但不希望竞争滑向底线竞赛，主张稳定、互利的关系。
- 质疑概念完整性：「超级智能禁令」是否是良定义的政策概念存疑；frontier pacing（前沿限速）概念也不完整——模型进步不是唯一的高破坏性到达过程，前沿模型还会解锁其他科学领域的前沿发现，需要研究整个科学前沿的「限速」意味着什么。他认为「脆弱世界假说」的问题表述是成立的（但反对 Bostrom 的全景监控式方案）。
作者还提到自己签署了《Pacing the Frontier》公开信，认为政府需要有限速前沿的抓手。整体是一份立场光谱中偏「负责任的加速+制度化安全」的代表性发言。
所属事件:研究长文回应 Dario 减速论：要负责任而非配给(3 条相关)→
「漫话AGI」频道最新
- 博主断言：未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02