AI 安全专家：灾难风险与生存风险的政策共识被媒体忽视
davidmanheim · x · 2026-10-27
AI 安全研究员 David Manheim 回应 Vox 相关讨论，指出 AI 风险政策领域其实存在大量「容易达成」的共识，Sneha Revanur、Tyler Cowen、Alex Bores 等立场各异的人物都会认可，但媒体（如 NYT 的对谈）只聚焦分歧而忽略共识。
他在后续补充：灾难风险（catastrophic）与生存风险（existential）的政策应对存在重要分歧——许多人主张通过人类监督和领域限制来预防灾难，因此认为模型递归自我改进（RSI）是可以接受的。
所属事件:AI 安全专家：灾难风险与生存风险政策分歧被高估(4 条相关)→
「安全」频道最新
- 密码学家回忆：当年警示 OpenSSL 被嘲笑，一个月后 Heartbleed 爆发 — matthew_d_green · 2026-10-27
- Tailscale 确认 SSH 多个提权漏洞：修复版 10 月 27 日发布，无需全员关闭 — cocktailpeanut · 2026-10-27
- 三步自查你是否在用 Tailscale SSH：多数隧道用户其实没开这功能 — cocktailpeanut · 2026-10-27
- 英国内政部用 ChatGPT 处理庇护申请，监管机构或启动调查 — Wired AI · 2026-10-27
- 安全圈「黑色十月」爆发漏洞潮，长文提出网络安全版 Jevons 悖论 — sebkrier · 2026-10-27
- Firefox 可从 Link 响应头加载 XSLT 样式表,实现响应头 XSS — jedisct1 · 2026-10-27