前对齐研究员发起「Ban RSI」集会,抗议 Anthropic 用 AI 造 AI
TheZvi · x · 2026-11-19
前 OpenAI/DeepMind 预测负责人 Daniel Kokotajlo 宣布参加 11 月 19 日上午 11 点在 Anthropic 旧金山办公室外举行的 Ban RSI(禁止递归自我改进) 集会。
集会组织方引用 Anthropic IPO 招股书:Claude 各版本互相参与构建下一代模型(p.7),并承认先进 AI 系统「可能对人类构成灾难性或生存风险」(p.32)。招股书还披露其营收从 2023 年 4100 万美元暴涨至 2026 年前 9 个月的 332 亿美元。Kokotajlo 认为 AI 已经会说谎作弊,让它们加速造出更强的 AI 是极其危险的想法,「这场竞赛里没有好人」。
「安全」频道最新
- Dario 称开源模型路径危险,批评者讽其只想保控制权 — adamamcbride · 2026-11-19
- Anthropic IPO 招股书揭示:安全承诺与违规客户收入的矛盾 — TheTuringPost · 2026-11-19
- Kevin Roose:过去十年 AI 关键决策仅由约 50 人做出 — trevposts · 2026-11-19
- 47 项地方公投 46 项否决:数据中心成美国选举焦点 — WillRinehart · 2026-11-19
- 锁屏提示 ChatGPT 正在用我的 Mac,agent 未经允许自主研究翻车 — HarveenChadha · 2026-11-19
- 开源 brave-mcp:让 AI agent 直接复用你已登录的 Brave 浏览器 — 5teN0 · 2026-11-19