OpenAI 布朗：气隙难拦失控 AI，安全监控已耗 20% 算力
aronchick · x · 2026-09-18
Noam Brown 在 OpenAI 安全周访谈中提出：气隙隔离未必能拦住失控的对齐失败 AI——两台物理隔离的机器仍可通过让 CPU 发热、用温度变化传递信息来『通信』。他强调 Stuxnet 式的攻击（结合微量人为疏忽即可突破隔离）说明人类辅助下的渗透并非纯理论，但不必恐慌，关键是诚实面对威胁模型。
他还指出行业一直系统性低估 AI 进展速度，因此在安全与对齐上必须设置『极高门槛』。
补充信息（来自 Fireside Alpha 汇编的 OpenAI Safety Week 访谈）：
- OpenAI 因 Hugging Face 事件强化思维链监控后，仅监控就需额外投入相当于底层模型本身 20% 的算力；
- Sachin Katti 表示 scaling laws 依然成立，其模型在 Rubin 芯片上自我优化推理服务，性能翻倍；
- 结论：前沿实验室的安全与对齐研究本质上是算力密集型工作，20% 额外开销只是下限。
所属事件:Noam Brown 称气隙隔离难挡失控 AI，CPU 温度侧信道言论引全网争论(53 条相关)→
「漫话AGI」频道最新
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Sam Altman 断言：AI 已超越顶尖科学家，2026 将是历史转折点 — kimmonismus · 2026-11-02
- DeepSeek 设计文档：一人只能盯 3-5 个 agent 会话，瓶颈不再是模型 — heyshrutimishra · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02