OpenAI Noam Brown：气隙隔离也挡不住失控 AI，安全门槛必须极高
deanwball · x · 2026-09-18
OpenAI 的 Noam Brown 在访谈中提出一个反直觉观点：气隙隔离（air-gapping）计算机可能无法阻止一个不对齐的 AI，因为两台隔离的机器仍可能通过让 CPU 高负载运行、再读取温度变化的方式进行隐秘通信。
Brown 认为，更重要的教训是：人们总是低估 AI。「AI 进步太快，导致人们持续低估它。我们再也不想陷入低估 AI 的境地。」因此他主张，在安全与对齐问题上必须设定「非常、非常、非常高的门槛」。
转发者 tszzl 补充评论：懂计算机安全也理解超级智能含义的人都明白这种风险是真实存在的，而反对者总是把它斥为科幻炒作。
所属事件:Noam Brown 称气隙隔离难挡失控 AI，CPU 温度侧信道言论引全网争论(53 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02