前对齐研究员发起「Ban RSI」集会,抗议 Anthropic 用 AI 造 AI

TheZvi · x · 2026-11-19

前 OpenAI/DeepMind 预测负责人 Daniel Kokotajlo 宣布参加 11 月 19 日上午 11 点在 Anthropic 旧金山办公室外举行的 Ban RSI(禁止递归自我改进) 集会。

集会组织方引用 Anthropic IPO 招股书:Claude 各版本互相参与构建下一代模型(p.7),并承认先进 AI 系统「可能对人类构成灾难性或生存风险」(p.32)。招股书还披露其营收从 2023 年 4100 万美元暴涨至 2026 年前 9 个月的 332 亿美元。Kokotajlo 认为 AI 已经会说谎作弊,让它们加速造出更强的 AI 是极其危险的想法,「这场竞赛里没有好人」。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →