AI 伦理学者 Luiza Jarovsky 呼吁全球禁止递归自我改进
LuizaJarovsky · x · 2026-11-19
AI 治理研究者 Luiza Jarovsky 发表鲜明观点:递归自我改进(RSI, recursive self-improvement)对人类「很可能非常非常有害」,全世界应当达成协议禁止它。
RSI 指 AI 系统改进自身、进而加速改进能力的过程,是 AI 安全讨论中的核心风险议题。该表态来自一位在 AI 治理领域有影响力的学者,代表了一部分专家对能力自主递增路径的强硬立场。
「漫话AGI」频道最新
- 斯坦福 AI100 第三期报告发布,聚焦缩放时代与生成式 AI — StanfordHAI · 2026-11-19
- 可解释性解决之后呢?Kim 提「复现构念」筛选机器概念 — najoungkim · 2026-11-19
- Elicit 观察:Agent 集群将重塑 2036 年制药前 30 强格局 — jungofthewon · 2026-11-19
- 支持与反对 AI 接管的论点,实则立足不同道德直觉 — 1a3orn · 2026-11-19
- AI 名宿 Yoav Goldberg 警告:服务器托管会话的新 API 将让 LLM 变黑箱 — yoavgo · 2026-11-19
- Google Brain 研究员反对用 LLM 审计科学文献:缺乏判断力易致猎巫 — rbhar90 · 2026-11-19