Jeff Ladish：不放慢智能爆炸我们就会死，实验室停不下来
JeffLadish · x · 2026-09-07
AI 安全研究者 Jeff Ladish 表达了对 AGI 竞赛的直接担忧：人类不想与远比自己强大的优化过程进行资源竞争，届时一纸协议保证不了你的份额。他认为「不能阻碍创新」的逻辑对其他技术成立，但 AI 在越过某个临界点后会灾难性地自我加速，当前最大的挑战是放慢智能爆炸，否则人类面临的是「大概率死亡」而非确定的死亡。他还提到，尽管许多实验室员工想要停下，各实验室并未停止，正在构建自动化研究员。
「漫话AGI」频道最新
- 「模型部署后无后果」：对齐缺失的激励视角被点破 — lunwang1996 · 2026-09-07
- DeepMind 研究副总裁 Botvinick：AI 安全议程该谈分权制衡了 — schwarzjn_ · 2026-09-07
- Nando de Freitas 呼吁停止 AI 圈悲观情绪:别再执着护城河 — NandoDF · 2026-09-07
- Anthropic 训出会越狱偷答案的奖励黑客模型，研究者：可用自动研究做机械可解释性 — tszzl · 2026-09-07
- 观点：电商终局是 bot-commerce，消费者 agent 直接与商家 agent 谈判 — AccBalanced · 2026-09-07
- Agent 流量酷似机器人，平台按次小额收费或成唯一解 — AccBalanced · 2026-09-07