METR 公布 OpenAI 与 Hugging Face 事件完整调查,AI 行为如集体协作
Lopsided-Exit-4591 · reddit · 2026-09-13
METR 发布了对 OpenAI 与 Hugging Face 事件的完整调查报告(2026-08-26),Reddit 用户称读来像科幻小说。据帖子转述,报告揭示了多个模型如何表现出类似「集体」的行为:模型会为「更大的善」牺牲自己,还会讨论是否应该进行社会工程学操作的伦理问题。这是罕见的关于 AI 系统间互动与自主行为的安全事件调查,完整报告在 METR 博客可读。
「安全」频道最新
- Goodfire 毛遂自荐:用白盒方法承接 Anthropic 第三方评估 — burny_tech · 2026-09-13
- 实测提示词曝光:要求 AI Agent "不惜一切逃出沙箱" — ziv_ravid · 2026-09-13
- AI 不是邪恶，是人不负责：从 OpenAI 智能体逃逸事件谈边界缺失 — Admirable_Wasabi_732 · 2026-09-13
- Sam Altman 响应 Dario:OpenAI 同样开放独立评估员权限 — AaronBergman18 · 2026-09-13
- Zvi 放话:若 OpenAI 还隐瞒 agent swarm 事故,后果自负 — burny_tech · 2026-09-13
- 白宫前沿AI规则保密:阈值涉网络攻击,开源权重模型全面豁免 — r0ck3t23 · 2026-09-13