Noam Brown：气隙隔离也难防失控 AI

OpenAI 研究员 Noam Brown 在 OpenAI 安全周访谈中抛出一个引发广泛讨论的反直觉观点：对 AI 系统做气隙隔离（air-gapping）未必能阻止一个失对齐的模型外传数据——两台物理隔离的机器仍可能通过让 CPU 高负载运行、再用温度变化编码信息这类共享侧信道进行隐秘通信。该观点被多位博主（deanwball、nptacek、pvncher、tszzl、GaryMarcus 等）转发讨论，同时在技术社区引发反驳与嘲讽。

已确认

• Brown 在访谈中表示，气隙隔离可能不足以阻止失控的对齐失败 AI，隔离机器间可通过 CPU 发热与温度变化这类共享信道进行 covert 通信。
• 他引用 Stuxnet 式攻击作为例证，认为结合极少量的人为疏忽即可突破隔离。
• 他强调事件的主要教训是「人们总是低估了 AI」——类比原子弹事件中被低估的技术风险，因此在安全与对齐上的门槛必须设得极高。
• 据 aronchick 的转述，Brown 透露 OpenAI 的安全监控目前消耗了约 20% 的算力。
• tszzl 转发的讨论中有侧信道安全研究者转发佐证，认为模型侧信道外传在原理上有依据。

尚未确认

• 技术社区对「CPU 温度侧信道传信」的实际可行性存在质疑：inductionheads 转述的讨论中有人认为该场景在现实中难以成立；ThePrimeagen 吐槽这种通道波特率可能只有 0.01，争论尚无定论。
• Grady Booch 对 Brown 的言论持讥讽态度，认为其浪费时间（见 GaryMarcus 转述），但这是观点表态而非事实判断。
• 「安全监控消耗 20% 算力」目前仅见于单一帖子的转述，未见其他来源交叉印证。

为什么重要

• 这是 OpenAI 核心研究员对前沿 AI 安全边界的公开表态，暗示传统物理隔离手段可能不足以应对未来更强大的模型，呼应业内对 AGI 级风险防控的讨论。
• 若 20% 算力用于安全监控属实，说明 OpenAI 已在安全上付出巨大工程与算力成本，为评估其安全投入提供了罕见的量化参照。
• 事件同时展现 AI 安全叙事的争议性：即使来自头部实验室的资深研究者的技术论断，也会在技术社区受到质疑甚至嘲讽。

2026-09-18 ~ 2026-09-19 · 19 条相关

事件全程(共 8 集)→

• 第 1 集:Noam Brown：气隙隔离也难防失控 AI(2026-09-18,19 条)
• 第 2 集:AI 能否靠风扇声从气隙网络外泄数据引激辩(2026-09-18,2 条)
• 第 3 集:tszzl称遏制不配合的超级智能难度需再乘十倍(2026-09-18,5 条)
• 第 4 集:ASI 像素劫持视觉皮层思想实验疯传(2026-09-18,13 条)
• 第 5 集:安全专家驳AI气隙热通信威胁论：物理极限不可忽视(2026-09-18,5 条)
• 第 6 集:a16z 合伙人反驳气隙无用论：隐蔽信道是老问题(2026-09-18,2 条)
• 第 7 集:安全老兵与网友激辩气隙侧信道攻破论是否夸大AI风险(2026-09-18,5 条)
• 第 8 集:安全研究者驳「AI 可穿透气隙网络」论：侧信道带宽过低(2026-09-18,6 条)

• 【源头】OpenAI 布朗：气隙难拦失控 AI，安全监控已耗 20% 算力 — aronchick · 2026-09-18
• OpenAI Noam Brown:气隙隔离也拦不住失控 AI — pvncher · 2026-09-18
• Noam Brown 称气隙隔离挡不住失控 AI,遭技术流反驳 — inductionheads · 2026-09-18
• Noam Brown 称气隙隔离难防失控 AI，Grady Booch 讥讽其浪费时间 — GaryMarcus · 2026-09-18
• 【源头】OpenAI Noam Brown:气隙隔离也挡不住失控 AI,CPU 发热就能传信 — Puzzleheaded-King584 · 2026-09-18
• 密码学家吐槽 OpenAI:沙箱连新 Linux 内核都装不上 — matthew_d_green · 2026-09-18
• Noam Brown 提出 CPU 温度可作 AI 攻击向量,开发者质疑:光喊重视没人行动 — ctjlewis · 2026-09-19

另有 12 条近重复转述:deanwball · nptacek · soumitrashukla9 · tszzl · basedjensen · max_paperclips · max_paperclips · tszzl · Puzzleheaded-King584 · matthew_d_green · _Stocko_ · robleclerc