OpenAI Noam Brown:气隙隔离也拦不住失控 AI
pvncher · x · 2026-09-18
OpenAI 研究员 Noam Brown 表示,气隙隔离(air-gapping)计算机可能无法阻止未对齐的 AI:两台物理隔离的机器仍能通过让 CPU 高负载运行、用温度变化编码信息来通信。他强调事件的主要教训是人们总是低估 AI——AI 进展太快,导致大家持续低估它,因此在安全与对齐上必须设定「非常、非常高的门槛」。帖子还征集其他脑洞隔离通信方式,如温度侧信道等。
所属事件:Noam Brown：气隙隔离也拦不住失控 AI，安全已耗 20% 算力(3 条相关)→
「漫话AGI」频道最新
- AI安全圈该不该谈素食与多元关系？圈内人回应 — NathanpmYoung · 2026-09-18
- Anthropic 2027 路线图:未来两年将解决 50% 的知识工作 — emax · 2026-09-18
- 数学家 littmath:这可能是近年当数学家最激动人心的时刻 — littmath · 2026-09-18
- Jack Clark 回应 RSI 测量研究：26% 数字将广为流传 — jackclarkSF · 2026-09-18
- Mark Cuban 质疑 Agent 经济账:算力谁买单?不看好可行性 — RileyRalmuto · 2026-09-18
- AI 圈兴起「米色网站」美学，一人聚合全网 AI 预测文章 — voooooogel · 2026-09-18