Noam Brown称气隙隔离难挡失控AI,安全研究者怒斥OpenAI漠视安全

max_paperclips · x · 2026-09-18

OpenAI 研究员 Noam Brown 在访谈中谈及近期安全事件,称核心教训是「人们一直低估了 AI」:由于进展太快,安全与对齐必须设极高的标准。他还举了个例子——即使气隙隔离两台机器,它们仍可通过让 CPU 发热并读取温度变化来传递信息,所以气隙未必能阻止对齐失败的 AI。

前 OpenAI 安全研究员 Blanche Minerva 强烈反驳:安全专家多年来一直在警告 OpenAI 其安全措施形同虚设,近期被黑事件不是「人们低估 AI」,而是 Noam 及其同事自己低估了,是公司把营收置于安全之上的结果。