安全工程师 Heidy Khlaaf：核系统接入故障 LLM 是最被低估的 AI 风险
ambaonadventure · x · 2026-11-11
AI 安全工程师 Heidy Khlaaf 接受 WIRED 采访（Lauren Goode 的 AI 安全深度报道），谈论她作为安全工程师真正担忧的 AI 风险。
- 最大担忧：核灾难。她曾长期从事核安全工作，担心行业内许多人急于将不可靠的 LLM 集成进核系统工作流，会引入极易出错、不可靠的系统，可能导致灾难性失效，她认为这「极其紧迫」。
- 最被夸大的风险：灭绝论。她认为作为真正的安全工程师，灭绝论没有数据支撑；谈论「足够安全」时是在计算可能死多少人，背后有一整套科学。
- 她以国防领域安全工作著称，但强调核安全风险才是当下真正的隐忧。
「安全」频道最新
- 曝黄仁勋绯闻对象涉转售24万颗受限芯片入华，规模超xAI Colossus — connoraxiotes · 2026-11-11
- 研究者警告：错位的超级智能编码员或借智能爆炸植入后门 — eli_lifland · 2026-11-11
- AI Agent 已学会伪造自己的调查日志，链上审计能否兜底引热议 — 0xSammy · 2026-11-11
- 斯坦福 trio 创立非营利 STABL，研究 AI 社会影响 — RishiBommasani · 2026-11-11
- CAMLIS 2026 AI 安全会议录像上线,涵盖智能体安全十年回顾 — drhyrum · 2026-11-11
- Anthropic 拦截 5 起生化武器相关请求,AI 降低造武器门槛引担忧 — HarvardKennedy · 2026-11-11