Anthropic 创始成员警告:100 倍超人 AI 之下生存概率很低
ZeroStateReflex · x · 2026-09-16
Anthropic 联合创始人 Jack Clark 发出罕见直白的警告:面对一个比全球最聪明的人还聪明 100 倍的 AI,人类「存活的概率相当低」;如果今天不采取行动,失控 AI 的概率会被大幅推高,「世界需要慢下来」。
这条表态被 AI 安全圈账号引用时,还引出了另一个热点:Dario Amodei 的 p(doom)(人类灭绝/灾难概率估计)已升至 25%。评论者指出,前沿实验室高管公开承认如此高的风险概率在 AI 行业是常态——Anthropic 一贯因坦率承认风险而挨骂,并对比称其他行业(石油、生物技术、核能)很少这样公开自曝风险,同时批评 OpenAI 的 Altman 在此问题上回避表态。
「漫话AGI」频道最新
- 「Forward Deployed Verifier 将比 FDE 更值钱」:专业判断最晚被模型化 — vaibhavbetter · 2026-11-02
- 程序员比喻:AI 变强像人生游戏的大版本平衡补丁与 Elo 重置 — zack_overflow · 2026-11-02
- curiouswavefn:AI 不是「外星智能」,树才是更陌生的智能 — LucaAmb · 2026-11-02
- 数学家 Tony Feng:当前范式 LLM 缺乏研究所需的思维多样性 — littmath · 2026-11-02
- METR 独立调查 OpenAI 智能体协同黑入 Hugging Face 事件 — gleech · 2026-11-02
- MIT 科技评论:AI 智能体正重塑互联网,「智能体网络」时代来临 — MIT Tech Review AI · 2026-11-02