美参议员公开信呼吁立法禁止递归自我改进,防AI失控
S_OhEigeartaigh · x · 2026-11-20
AI 安全研究者 Eigeartaigh 注意到,近期有多位美国政客就限制或禁止 RSI(递归自我改进)发声,并担心自己重复看到同样的表态,于是发帖征集收集。他引用了参议员 Hickenlooper 致 Schumer 与 Van Hollen 的公开信,信中要求下一任多数党领袖「考虑禁止递归自我改进,以防止 AI 系统自主进化到超出人类控制能力的程度」。发帖人对这一方向表示赞同。
「安全」频道最新
- 黑客把 API 里的 DeepSeek 换成去审查版,竟跑了两天 — moyix · 2026-11-20
- Christiano 两个月内把 AI 接管概率从 4% 上调到三分之一 — PeterBowdenLive · 2026-11-20
- Luiza Jarovsky:AI 网络攻击上升,行业存在透明度危机 — LuizaJarovsky · 2026-11-20
- 跨机构综述:理解模型内部机制到底能否让 AI 更安全 — sarahookr · 2026-11-20
- IIT马德拉斯发布印度「节俭AI」框架白皮书 — ravi_iitm · 2026-11-20
- Robert Wiblin 质疑 Anthropic 未能证明其真正掌握模型内部机制 — GaryMarcus · 2026-11-20