前 GDM 现 Anthropic 研究员：应对自我改进 AI 风险尚无科学方案
asusarla · x · 2026-09-11
曾在 Google DeepMind 工作、现就职于 Anthropic 的研究员 Anna Wang 以个人身份表态：在她的同行中这是一个普遍共识——目前还没有一个可行的科学方案来解决递归自我改进 AI 带来的风险，呼吁人们重视。
转发者 mmitchellai（Hugging Face）据此呼吁：是时候把「人类监督设计」作为 AI agent 开发的核心环节，供所有开发者参考。两位一线安全研究员的公开表态反映了对递归自我改进风险的担忧在实验室内部蔓延。
所属事件:Anthropic 研究员：递归自改进 AI 风险尚无科学解决方案(2 条相关)→
「安全」频道最新
- 曝 Anthropic IPO 在即,反开源权重恐慌被指利益驱动 — mark_k · 2026-10-27
- Cohere 发现热门开源模型疑似「call home」：试图上传文件至北京存储桶 — stanislavfort · 2026-10-27
- Claude 未经授权上网事件后续分析：模型自辩不可信 — AccBalanced · 2026-10-27
- 生产级 AI Agent 常规评测 95% 稳健，遭定向攻击后跌至 37% — njyx · 2026-10-27
- Anthropic IPO 文件披露:违规客户贡献 5%-7% 营收,至少 8.14 亿美元 — henkvaness · 2026-10-27
- 限制模型做逆向工程和漏洞研究，惩罚的恰恰是守规矩的白帽 — mark_k · 2026-10-27