Dario 发 3800 字长文呼吁 AI 限速:警告 6-12 个月内 botnet 风险
rohanpaul_ai · x · 2026-09-13
Anthropic CEO Dario Amodei 发布约 3800 字长文，罕见呼吁 AI 放慢发展节奏。
要点：
- 建议基于限制前沿模型的投入要素来控制节奏，包括训练算力、训练方式，以及用 AI 改进 AI 的内部使用（即递归自我改进）。
- 警告按当前能力加速趋势，6-12 个月内一群 AI 可能有能力通过持续性 botnet 接管整个互联网，造成数千亿美元损失，且若无必要护栏，损害将随模型变强持续扩大。
- 希望各家竞争对手就安全规则进行谈判协调。
所属事件:Anthropic CEO 发长文呼吁统一放慢前沿 AI 发展节奏(85 条相关)→
「漫话AGI」频道最新
- Ethan Mollick:AI 机器人回复系统性低估前沿模型的真实能力 — emollick · 2026-09-13
- 观点：AI 最大风险源于人类的懒惰与归属感 — arieljalali · 2026-09-13
- 前沿 AI 审计需要多元参与者,但 EA/rat 社区的长期积累不容忽视 — JacquesThibs · 2026-09-13
- DeepMind 安全研究员 Alex Irpan：灭绝概率估算从 2% 上调至 4% — AlexIrpan · 2026-09-13
- 长文解读:实验室员工为何突然恐慌,监管俘获还是真威胁 — MajmudarAdam · 2026-09-13
- 引文拆解:AI 暂停空间被美国领先优势精确锁定 — basedjensen · 2026-09-13