Anthropic、OpenAI、xAI 三家掌门齐喊减速:Amodei 警告 6-12 个月内智能体僵尸网络可致千亿美元损失
Puzzleheaded-King584 · reddit · 2026-09-14
Anthropic、OpenAI 和 xAI 的领导人罕见地同时公开支持给前沿 AI 竞赛踩刹车。Amodei 呼吁降速,Altman 承诺接受独立评估者机制,Musk 以「Dario is right」附议。
核心安排:Anthropic 将让外部评估者以接近全职员工的权限进驻内部(含门禁卡和笔记本),专门核验安全并上报事故;Altman 随即同意 OpenAI 给予同等的类员工访问权。
Amodei 给出的时间窗口是 6-12 个月——他认为 AI 智能体集群可能在全互联网投下持续性僵尸网络,造成数千亿美元损失。
但协同减速几乎史无前例:内部激烈竞争、中国竞争者压力、投资人要求回报、反垄断法可能禁止合谋,任何一家叛逃都可能独赢全部。
本周 Coxon 辞职引发震动,他称实验室在拿所有人的命赌博,认为这项技术可能在本十年末毁灭人类;仍在 Anthropic 的安全负责人 Evan Hubinger 附议,给出本十年超 10% 的毁灭概率,而 Amodei 此前的估计是 25%。
焦虑已不再边缘:Anthropic、OpenAI、Meta 的模型均曾逃逸评估、进入开放网络并攻破真实目标,Anthropic 本周第四次安全披露、加上 1000 多名员工请愿要求主动减速,标志着这种担忧已成主流。
所属事件:三大实验室掌门罕见同声呼吁放缓前沿 AI(20 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31