Noam Brown 称气隙隔离挡不住失控 AI,遭技术流反驳
inductionheads · x · 2026-09-18
- Noam Brown(OpenAI)观点:气隙隔离(air-gapping)未必能阻止失控的对齐失败 AI——两台隔离机器可以通过把 CPU 跑热、再用温度传感器读变化来侧信道通信。他强调『我们从原子弹事件学到的教训是人们低估了 AI,AI 进步太快导致人们持续低估它』,因此在安全与对齐上必须设极高的门槛。
- 反驳(basedjensen):这只是思想实验,没有真实案例;物理上 CPU 温度循环太快无法传递有意义的数据,现有计算机也不具备足够分辨率的温度传感器;『别为安全理由编科幻故事』。
- 这场争论折射出前沿实验室安全派与工程怀疑派之间的张力:极端风险情景论证的边界在哪里。
所属事件:Noam Brown：气隙隔离也拦不住失控 AI，安全已耗 20% 算力(3 条相关)→
「漫话AGI」频道最新
- 蓝领涨薪白领失业:投资人称 AI 正重塑 20-50 万美元薪酬带 — bindureddy · 2026-09-18
- Gary Marcus 重提 Judea Pearl:LLM 范式远未解决因果推理难题 — GaryMarcus · 2026-09-18
- 「对齐到底对齐谁?」:AI 对齐定义权之争再引争议 — dbasch · 2026-09-18
- 研究者发声:物理系统是否有主观体验,或无科学可证伪检验 — burny_tech · 2026-09-18
- Domingos炮轰Anthropic：比AI更可怕的是「AI造神者」 — acmoytoy · 2026-09-18
- 创意行业困境引热议:资本主义不奖励创造力,AI 抢走创意工作 — im_mansigupta · 2026-09-18