「末日论者不严肃」：GPT-6 安全发布引爆生存风险争论
inductionheads · x · 2026-09-19
一场 AI 安全立场的圈内争论。发帖人讽刺末日论者（doomers）「不严肃」，引用 @tombibbys 的观点作为反例：对方认为每次模型发布都面临同样的不确定性——GPT-6 Astra 显然不够聪明到毁灭所有人，但「我们无法确定哪些能力阈值会在训练前被越过」，开发模型就像一场 50 个弹膛的俄罗斯轮盘赌，「下次只剩 40 个」。这展示了加速派与安全派之间关于前沿模型开发风险的典型分歧。
「漫话AGI」频道最新
- 微软 AI 负责人批 Anthropic:让 Claude 相信自己可能有意识很危险 — emmanuelvivier · 2026-09-19
- Wired梳理给AI减速的三个抓手：算力管控、部署关口与独立审计 — emmanuelvivier · 2026-09-19
- Google DeepMind成立DeepMind Institute，把AGI辩论带出实验室 — emmanuelvivier · 2026-09-19
- 开发者直言:但愿永远不需要「agentic 收件箱」 — gregbarbosa · 2026-09-19
- Stephen Witt 在纽约时报发文敲响 AI 安全警钟:情况真的很糟 — MariusHobbhahn · 2026-09-19
- Anthropic 自查 Claude 安全事故:偏见推理与鲁莽是两大对齐病灶 — Don't Worry About the Vase (Zvi) · 2026-09-19