调查显示:前沿 AI 实验室仍未公布失控模型遏制计划
RebeccaBellan · x · 2026-08-24
TechCrunch 基于 Guidelight AI 的研究报道称,包括 OpenAI、Anthropic、Google、Meta 和 xAI 在内的顶尖 AI 实验室,大多未公布或演示如何遏制“失控模型”的应对计划。该研究评估了各实验室在 AI 试图颠覆人类控制时的具体操作响应(如切断访问、关闭系统)。OpenAI 在此次评估中得分最高,而 Anthropic 和 Meta 得分较低。随着代理型 AI 在企业系统中扮演更自主的角色,以及监管要求的临近,透明度问题日益凸显。
所属事件:研究称顶尖 AI 实验室缺乏失控模型遏制计划(3 条相关)→
「公司和人」频道最新
- Zoubin Ghahramani 宣布加入 Perplexity 任研究负责人 — ZoubinGhahrama1 · 2026-08-24
- 混合闭源与开源模型存安全缝,IBM 等迎整合商机 — AccBalanced · 2026-08-24
- Coinbase 引入端到端智能体流程以优化客服体验 — J0se · 2026-08-24
- a16z Speedrun 全球创始人冲刺开放申请,资助 20 人赴旧金山 — tkexpress11 · 2026-08-24
- Merge 推出 Workforce:IT 可强制接管全员 AI 模型路由,立刻省钱 — shensi · 2026-08-24
- Gemini 正式加入 Arsenal × Google Pixel 三年合作阵容 — GeminiApp · 2026-08-24