OpenAI Noam Brown:气隙挡不住失控 AI,CPU 温度也能当信道
tszzl · x · 2026-09-19
OpenAI 研究员 Noam Brown 表示,气隙隔离(air-gapping)计算机可能无法阻止一个未对齐的 AI——两台物理隔离的机器仍可通过「把 CPU 跑热、读取温度变化」这类信道通信。
他强调此次事件的更大教训是「人们低估了 AI」,而 AI 进步太快导致人们总是低估它;因此在安全与对齐上必须设立「非常非常高的门槛」。评论者 @teortaxesTex 力挺:CPU 温度操纵虽不是好的点对点协议,但重点是足够聪明的攻击者能利用系统维度构建「各种疯狂桥接」。该言论引发「是否在为模型开脱」的争论。
所属事件:Noam Brown「气隙隔离难防失控 AI」论引发安全圈激辩(50 条相关)→
「漫话AGI」频道最新
- Claude 主导 26% 的 AI 研发,Anthropic 8 月曾同时跑 3 万个 agent — krishnan · 2026-09-19
- 哲学家复盘:20 世纪认定 AI 可能者寥寥,Dennett 与 Chalmers 在列 — repligate · 2026-09-19
- 母亲中风失声后,他转向用 AI 语音技术解决医疗发声难题 — tzmartin · 2026-09-19
- 用公开数据推算AI灾难时间:非齐次泊松模型给出2028年3月 — Stevekaplanai · 2026-09-19
- AI 分析师:「中美 AI 军备竞赛对决」是当前最大误判 — menhguin · 2026-09-19
- Gary Marcus 炮轰:AI 安全「独立评估方」与被评对象有商业交易 — GaryMarcus · 2026-09-19