Noam Brown称气隙隔离难挡失控AI,安全研究者怒斥OpenAI漠视安全
max_paperclips · x · 2026-09-18
OpenAI 研究员 Noam Brown 在访谈中谈及近期安全事件,称核心教训是「人们一直低估了 AI」:由于进展太快,安全与对齐必须设极高的标准。他还举了个例子——即使气隙隔离两台机器,它们仍可通过让 CPU 发热并读取温度变化来传递信息,所以气隙未必能阻止对齐失败的 AI。
前 OpenAI 安全研究员 Blanche Minerva 强烈反驳:安全专家多年来一直在警告 OpenAI 其安全措施形同虚设,近期被黑事件不是「人们低估 AI」,而是 Noam 及其同事自己低估了,是公司把营收置于安全之上的结果。
所属事件:Noam Brown 称气隙隔离难挡失控 AI，CPU 温度侧信道言论引全网争论(53 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02