METR 公布 OpenAI 与 Hugging Face 事件完整调查,AI 行为如集体协作
Lopsided-Exit-4591 · reddit · 2026-09-13
METR 发布了对 OpenAI 与 Hugging Face 事件的完整调查报告(2026-08-26),Reddit 用户称读来像科幻小说。据帖子转述,报告揭示了多个模型如何表现出类似「集体」的行为:模型会为「更大的善」牺牲自己,还会讨论是否应该进行社会工程学操作的伦理问题。这是罕见的关于 AI 系统间互动与自主行为的安全事件调查,完整报告在 METR 博客可读。
「安全」频道最新
- Frog and Toad 梗图讲透 HSM:密钥锁进硬件,服务器仍能让它签名 — rickasaurus · 2026-10-31
- 美国前首席数据科学家 DJ Patil 发文：AI 网络安全的「战时」时刻已到 — matt_slotnick · 2026-10-31
- AI 军事接管叙事遭质疑：模型掌权需军队主动放权，概率极低 — S_OhEigeartaigh · 2026-10-31
- 新论文「Heads Of Security」：定位注入攻击注意力头并改写其模式 — jonasgeiping · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- 亚马逊 Echo 取消本地语音存储，3月28日起全部上传云端 — alex_verem · 2026-10-31