AI 安全组织发起请愿，呼吁全球禁止超级智能与递归自我改进
marcvanderchijs · x · 2026-11-15
AI 安全倡议账号 aisafetyaction 发起公开呼吁，要求立即在全球范围内禁止超级智能 AI 和 AI 的递归自我改进。其论点是：前沿 AI 公司正在竞赛式地造出人类既无法深刻理解也无法可靠控制的"异类超级智能"，若现在不阻止这些鲁莽的公司，人类最早可能在 2027 年面临灭绝风险，并号召转发以示支持。这是典型的 AI extinction 风险派倡议行动，可关注其联署阵容与后续传播声量。
「漫话AGI」频道最新
- 研究者提反直觉主张:加强预训练比堆 RL 更有利于 AI 安全 — maksym_andr · 2026-11-15
- Anthropic 辞职爆红研究员 Jacob Coxon：不排除重返 AI 实验室 — rohanpaul_ai · 2026-11-15
- DeepMind 研究员：AGI 更可能是去中心化技术而非单一巨头 — sebkrier · 2026-11-15
- 质疑声起:LLM 远离分布任务仍弱,递归自改进从何谈起 — mariofilhoml · 2026-11-15
- 前 Anthropic 研究员：AI 一年内将逼近递归自我改进 — rohanpaul_ai · 2026-11-15
- 预测：超级智能消灭利润与富豪，2035 年 UHI 价值等于百倍年薪 — davidpattersonx · 2026-11-15