AI safety 研究者表态不退场，呼吁 OpenAI 与 Anthropic 停止 RSI
trevposts · x · 2026-11-07
一位从事长期 AI safety 工作的研究者公开回应是否退出的讨论：明确表示不打算退出，自己的工作方向是避免能力外溢（capabilities externalities）的长期安全研究，甚至会刻意回避那些会助推模型发布短期安全工作。
其核心判断：OpenAI 和 Anthropic 都应该停止 RSI（递归自我改进）。
「漫话AGI」频道最新
- 斯坦福教授 Anshul Kundaje：ML 会议同行评审体系已无法修复 — anshulkundaje · 2026-11-07
- Eric Drexler：别谈乐观概率，要谈选项——超级智能时代的参与者思维 — sebkrier · 2026-11-07
- Musk 描绘太空超智能蓝图：SpaceX 拟每年向轨道部署多达 1 太瓦算力 — XFreeze · 2026-11-07
- 博主判断:AI 生成内容检测将重演网络安全的军备竞赛 — ZeroStateReflex · 2026-11-07
- tszzl 谈自然道德地位：五次大灭绝证明自然并非人类之友 — tszzl · 2026-11-07
- Vitalik Buterin 金句:「开放权重不等于开源」 — wonderwomancode · 2026-11-07