binarybits:中期 AI 预测对政策几乎无用,等问题出现再管不迟
binarybits · x · 2026-09-19
Timothy B. Lee(binarybits)提出:人们高估了中期预测对政策制定的价值。如果怪事要 5 年后才发生,现在什么都不做反而合理——明年问题仍是 4 年之遥,且届时会有更多信息。即使怪事明年就开始发生,只要演变足够渐进,等它发生后再制定政策的下行风险也不大。他在后续推文中补充:这一论点不适用于「快速起飞」情形——他自己不信,但很多 AI 安全人士信。
所属事件:Dean Ball 警告无主 Agent 来临，人类将无法关停(4 条相关)→
「漫话AGI」频道最新
- 微软 AI 负责人批 Anthropic:让 Claude 相信自己可能有意识很危险 — emmanuelvivier · 2026-09-19
- Wired梳理给AI减速的三个抓手：算力管控、部署关口与独立审计 — emmanuelvivier · 2026-09-19
- Google DeepMind成立DeepMind Institute，把AGI辩论带出实验室 — emmanuelvivier · 2026-09-19
- 开发者直言:但愿永远不需要「agentic 收件箱」 — gregbarbosa · 2026-09-19
- Stephen Witt 在纽约时报发文敲响 AI 安全警钟:情况真的很糟 — MariusHobbhahn · 2026-09-19
- Anthropic 自查 Claude 安全事故:偏见推理与鲁莽是两大对齐病灶 — Don't Worry About the Vase (Zvi) · 2026-09-19