OpenAI Noam Brown：气隙隔离也挡不住失控 AI，安全门槛必须极高
deanwball · x · 2026-09-18
OpenAI 的 Noam Brown 在访谈中提出一个反直觉观点：气隙隔离（air-gapping）计算机可能无法阻止一个不对齐的 AI，因为两台隔离的机器仍可能通过让 CPU 高负载运行、再读取温度变化的方式进行隐秘通信。
Brown 认为，更重要的教训是：人们总是低估 AI。「AI 进步太快，导致人们持续低估它。我们再也不想陷入低估 AI 的境地。」因此他主张，在安全与对齐问题上必须设定「非常、非常、非常高的门槛」。
转发者 tszzl 补充评论：懂计算机安全也理解超级智能含义的人都明白这种风险是真实存在的，而反对者总是把它斥为科幻炒作。
所属事件:Noam Brown：气隙隔离也难拦失控 AI，安全监控已耗两成算力(5 条相关)→
「漫话AGI」频道最新
- AGI.FYI 上线:给 AI 风险内容做「Wirecutter」式精选指南 — KatjaGrace · 2026-09-18
- 学者用 2015 BitWhisper 论文数据嘲讽 AI 自我复制末日论 — vishalmisra · 2026-09-18
- Turing Post 发 RSI 2026 全景指南:Anthropic 等已现自我改进雏形 — TheTuringPost · 2026-09-18
- 「不懂就喊超级智能」:AI 圈争论炒作话术与专业敬畏 — tekbog · 2026-09-18
- 博主称 AI 消除阅读摩擦，动摇沿用 150 年的'先发表者胜'惯例 — jd_pressman · 2026-09-18
- 递归自我改进被质疑是 PR：算力瓶颈下超级智能叙事能否落地 — Additional-Spray-976 · 2026-09-18