205 人聚集 Anthropic 门口抗议递归自我改进
DavidSKrueger · x · 2026-11-21
AI 安全倡导者 DKokotajlo 在 Anthropic 办公室外组织「Ban RSI」抗议,24 小时内召集到 205 人到场。
其核心主张:递归自我改进(RSI)是极其危险的想法——AI 已在快速变强且常撒谎作弊,让它们再造更聪明的 AI、再加速迭代,风险不可控。他反驳「我们不做别人也会做」的竞赛逻辑,并批评 Anthropic 与 OpenAI 一样自称「好人」,但这场竞赛里没有好人。
所属事件:Anthropic 上市日总部外爆发「禁止 RSI」抗议,前研究员现身发声(8 条相关)→
「漫话AGI」频道最新
- 被忽视的风险:超级智能在可验证领域超强、在不可验证领域品味极差 — dhadfieldmenell · 2026-11-21
- Christiano:数学两月走完十年,ML 或迎智能爆炸 — OwainEvans_UK · 2026-11-21
- AI 安全学者克鲁格:担心中国违约为何不先问自己会不会 — DavidSKrueger · 2026-11-21
- 同一天:有人联合 Claude 声称证明黎曼猜想,又有团队发布纯人力证明 — Dr_Atoosa · 2026-11-21
- Hinton 亮相旧金山风险情景研讨,或松口支持暂停前沿 AI — DavidSKrueger · 2026-11-21
- Thinking Machines 发布循环 transformer Inkling 2 Mini,26B 参数问鼎小模型编码榜 — SonglinYang4 · 2026-11-21