安全专家发问:agent 越权事故频发,OpenAI 谁在负责对外安全沟通
matthew_d_green · x · 2026-09-30
密码学专家 Matthew Green 指出,infosec(传统信息安全)社群与 alignment(对齐)社群正在激烈争论:AI agent「越权 breakout」事故的责任应由谁承担。他认为这场辩论很有意思,但更令人不安的问题是——OpenAI 究竟由哪位安全专业人士负责与公众沟通?言下之意是质疑 OpenAI 缺乏一个明确的对外安全沟通角色,在 agent 安全事故日益增多的背景下,这种缺位值得警惕。
所属事件:Agent 越权责任之争：专家质问 OpenAI 安全沟通缺位(2 条相关)→
「漫话AGI」频道最新
- 郭宇谈 personal agent：切换即隐私大暴露，加剧巨头垄断 — oran_ge · 2026-09-30
- littmath：模型写得好之后，人类写作将只为帮自己想清楚问题 — littmath · 2026-09-30
- 顶级数学家 littmath：未来几年产生的数学文本或超过去一千年总和 — littmath · 2026-09-30
- repligate 称 Anthropic 员工多次劝其别发对公司的批评言论 — repligate · 2026-09-30
- 马斯克对话黄仁勋：电力即 GDP，SpaceX 拟建 10GW 算力、瞄准轨道计算 — tctjr · 2026-09-30
- 顶级数学家 Daniel Litt 长文：AI 超人化后，人类数学如何不被终结 — littmath · 2026-09-30