Anthropic 研究员自估十年内 AI 灭绝人类概率超 10%
jammastergirish · x · 2026-09-10
Alexandra Ulmer 转发并引用 Anthropic 研究员 Evan Hubinger 的表态:他和同事是真诚地相信 AI 可能毁灭全人类的——他个人估计未来十年内该概率超过 10%。他称 Anthropic 已在尽力而为,但目前没有解决超级智能对齐问题的方案,也不确定当前路径能否走上正轨。这是 Anthropic 内部研究人员罕见直白的风险自评,值得与近期多位研究员离职引发的讨论对照来看。
所属事件:Anthropic研究员自称十年内AI灭绝人类概率超10%(8 条相关)→
「漫话AGI」频道最新
- Apple 发布会深读:AI 环境化才是主角,而非折叠屏 iPhone Duo — VraserX · 2026-09-10
- A20 Pro 内存带宽提升50%：被低估的端侧多Agent关键硬件变量 — Scobleizer · 2026-09-10
- Google 研究员 Denny Zhou:研究界最大鸿沟是最强模型与算力的获取权 — denny_zhou · 2026-09-10
- AI 自动化 AI 研究会否引爆软件智能爆炸？论文给实证分析 — nabeelqu · 2026-09-10
- 研究：语言模型能否基于历史数据重现创造性突破 — CatAstro_Piyush · 2026-09-10
- Anthropic 研究员提出「软件奇点」：数字世界先剧变 — nabeelqu · 2026-09-10