DeepMind 与 Anthropic 研究员集体发声:尚无科学方案解决自我改进 AI 风险
sjgadler · x · 2026-09-10
一名曾在 Google DeepMind 工作、现就职于 Anthropic 的研究员(以个人身份)公开表示:「目前还不存在一条可行的科学路径来解决递归自我改进 AI 带来的风险」,并称这是同行间的普遍共识。
这条表态是对另一名研究员推文的引用:后者宣布当天从 Anthropic 辞职,称自己过去三年在 OpenAI 和 Anthropic 都做预训练研究,「两家公司都不负责任,正在径直冲向自我改进的超级智能,拿我们的性命赌博」。
所属事件:前沿实验室对齐负责人承认尚无超智能对齐方案(3 条相关)→
「漫话AGI」频道最新
- AI 判断哪些职业先被替代：规则能写成代码的那一层先消失 — FinanceYF5 · 2026-10-26
- 工程师身份危机蔓延:多智能体系统正在重定义软件工程问题 — rakyll · 2026-10-26
- 研究发现：前沿 LLM 常为私利单方面撕毁 AI 合同 — xuanalogue · 2026-10-26
- 133 位专利律师实验：同样用 AI，老手被增强、新人陷入认知卸载 — xiaohu · 2026-10-26
- OpenAI 计算机使用 agent 团队：速度已逼近超越人类专家 — a16z · 2026-10-26
- 李开复新书《AI Native》上市：论企业如何成为 AI 原生公司 — kaifulee · 2026-10-26