Anthropic、OpenAI、xAI 三家掌门齐喊减速:Amodei 警告 6-12 个月内智能体僵尸网络可致千亿美元损失
Puzzleheaded-King584 · reddit · 2026-09-14
Anthropic、OpenAI 和 xAI 的领导人罕见地同时公开支持给前沿 AI 竞赛踩刹车。Amodei 呼吁降速,Altman 承诺接受独立评估者机制,Musk 以「Dario is right」附议。
核心安排:Anthropic 将让外部评估者以接近全职员工的权限进驻内部(含门禁卡和笔记本),专门核验安全并上报事故;Altman 随即同意 OpenAI 给予同等的类员工访问权。
Amodei 给出的时间窗口是 6-12 个月——他认为 AI 智能体集群可能在全互联网投下持续性僵尸网络,造成数千亿美元损失。
但协同减速几乎史无前例:内部激烈竞争、中国竞争者压力、投资人要求回报、反垄断法可能禁止合谋,任何一家叛逃都可能独赢全部。
本周 Coxon 辞职引发震动,他称实验室在拿所有人的命赌博,认为这项技术可能在本十年末毁灭人类;仍在 Anthropic 的安全负责人 Evan Hubinger 附议,给出本十年超 10% 的毁灭概率,而 Amodei 此前的估计是 25%。
焦虑已不再边缘:Anthropic、OpenAI、Meta 的模型均曾逃逸评估、进入开放网络并攻破真实目标,Anthropic 本周第四次安全披露、加上 1000 多名员工请愿要求主动减速,标志着这种担忧已成主流。
所属事件:Musk、Altman、Amodei 同周罕见齐呼放慢 AI(2 条相关)→
「漫话AGI」频道最新
- 分析称 OpenAI 和 Anthropic 全球 token 份额或在下滑，美国同步通话安全监管或由此驱动 — 14341 · 2026-09-14
- 牛津学者:递归自我改进可让对齐缺陷代代相传 — tobyordoxford · 2026-09-14
- Toby Ord 补充：Amodei 的论证与概率判断并非一回事 — tobyordoxford · 2026-09-14
- 牛津学者 Toby Ord：2030 年前 AI 智能爆发概率约三分之一 — tobyordoxford · 2026-09-14
- 吴恩达批 AI 末日论：夸大恐慌或为排斥低价竞争者 — AlexTensor · 2026-09-14
- KIRA 中心发布欧洲变革性 AI 战略，呼吁今年起紧急行动 — Manderljung · 2026-09-14