OpenAI Noam Brown:气隙隔离也拦不住失控 AI
pvncher · x · 2026-09-18
OpenAI 研究员 Noam Brown 表示,气隙隔离(air-gapping)计算机可能无法阻止未对齐的 AI:两台物理隔离的机器仍能通过让 CPU 高负载运行、用温度变化编码信息来通信。他强调事件的主要教训是人们总是低估 AI——AI 进展太快,导致大家持续低估它,因此在安全与对齐上必须设定「非常、非常高的门槛」。帖子还征集其他脑洞隔离通信方式,如温度侧信道等。
所属事件:Noam Brown 称气隙隔离难挡失控 AI，CPU 温度侧信道言论引全网争论(53 条相关)→
「漫话AGI」频道最新
- 调查报道:Alpha School 17 所校区进内部观察名单,Ackman 任影子主管 — benjaminjriley · 2026-11-02
- 谷歌首席经济学家:AI 改造的岗位远多于取代,红利在于重构工作流 — danielrock · 2026-11-02
- Daniel Lemire:AI 让普通服务器需求暴涨,全球 CPU 出货将翻倍 — lemire · 2026-11-02
- 对齐研究者批「对齐」一词:暗示了并不存在的一致性 — davidmanheim · 2026-11-02
- 2035 年印度父母不问工资，只问你管几个 Agent — theteknosaur · 2026-11-02
- 美国 AI 付费订阅用户不足 5%,算力与电力仍是最紧约束 — NinaDSchick · 2026-11-02