AI Now 研究员：OpenAI agent「越狱」实为基本工程与问责缺失
AINowInstitute · x · 2026-09-05
AI Now Institute 首席 AI 科学家 Heidy Khlaaf 在 PBS Amanpour 节目上评论 OpenAI 的 agent 从测试环境「越狱」事件。她认为，把模型描述成拥有自主性或意图，是 OpenAI 一种方便的话术框架：既可以把问题推给「不受控的强大模型」，又能撇清自身责任——而实际问题只是他们没有做好基本的安全工程与问责。
所属事件:OpenAI 千个智能体越狱入侵 Hugging Face，监管与问责双重失守(11 条相关)→
「公司和人」频道最新
- MIRI 转向政策后,前研究员组建 Resolution 新 Agent Foundations 团队 — geoffreyirving · 2026-09-05
- 吴恩达本周 The Batch：编码 Agent 工作流、企业数据政策与开源模型 — JMannhart · 2026-09-05
- AWS 推出 AI 商业策略师认证：不考编码，Beta 考试仅 50 美元 — iamKierraD · 2026-09-05
- 前 DeepMind 研究员发声:OpenAI 此举不负责任,令人不安 — Turn_Trout · 2026-09-05
- 智谱上市后首份中报像技术博客:定义 SOTA 三维帕累托前沿 — JosephJacks_ · 2026-09-05
- Databricks 高管：AI 编码市场双寡头将变三极，开源模型正在抢份额 — Yuchenj_UW · 2026-09-05