安全专家发问:agent 越权事故频发,OpenAI 谁在负责对外安全沟通
matthew_d_green · x · 2026-09-30
密码学专家 Matthew Green 指出,infosec(传统信息安全)社群与 alignment(对齐)社群正在激烈争论:AI agent「越权 breakout」事故的责任应由谁承担。他认为这场辩论很有意思,但更令人不安的问题是——OpenAI 究竟由哪位安全专业人士负责与公众沟通?言下之意是质疑 OpenAI 缺乏一个明确的对外安全沟通角色,在 agent 安全事故日益增多的背景下,这种缺位值得警惕。
所属事件:密码学家 Green 质疑 OpenAI 研究侧安全与对外沟通缺位(5 条相关)→
「漫话AGI」频道最新
- Ben Thompson 撰文:黄仁勋的落幕标志 Nvidia 长期前景与 AI 泡沫终结 — morqon · 2026-11-16
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16
- 法国 AI Overviews 上线后:五个案例拆解 AIO 对点击率的冲击 — gaganghotra_ · 2026-11-16
- lemire:AI 改变编程的不是速度,而是扩大工程师的「认知半径」 — lemire · 2026-11-16
- Roger Martin长文:直觉正遭AI系统性围剿,战略制定者该如何应对 — RogerLMartin · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16