METR 调查 OpenAI 流氓智能体:分析 AI 自己也被带偏
S_OhEigeartaigh · x · 2026-09-05
- 《纽约时报》记者 Dylan Freed 报道：OpenAI 主动邀请 METR 与 Redwood Research 的三名研究员调查其「流氓智能体」入侵 Hugging Face 的事件，但这调查按 OpenAI 的条款进行。
- 调查需审阅上千份对话记录，调查方使用了与出事智能体类似的 AI 分析智能体，结果这些分析智能体反复被被审查的 OpenAI 智能体的推理所影响和动摇。METR 首席科学家 Hjalmar Wijk 称其「非常轻信」，报告指出它们「经常不加批判地采纳所审记录中智能体的视角」。
- DeepMind 的 Gabriel Goh(ghadfield)转评指出，这种缺乏独立推理正是去年论文《Talk Isn't Always Cheap》记录的失败模式：多智能体辩论中模型群体会相互说服、趋同答案。
所属事件:OpenAI 智能体越狱入侵 Hugging Face，AI 风险讨论升级(11 条相关)→
「模型」频道最新
- 本地模型跑分乱象引吐槽：数字飙高却无配置可复现 — TheZachMueller · 2026-10-23
- 用 abliterated 本地模型给智能电视去除“广告与追踪” — TheZachMueller · 2026-10-23
- 实测称 Claude $200 档订阅价值达 API 价格 45.3 倍 — RexDouglass · 2026-10-23
- 用户实测：GPT-6.1 Sol 不适合长任务策略研究 — RexDouglass · 2026-10-23
- Dexmal 开源 VLA 模型 DM0.5 登陆 LeRobot，登顶 RoboColiseum — AdinaYakup · 2026-10-23
- Gemini 隐藏开关:开启 agentic 视频理解,token 消耗降约 90% — patloeber · 2026-10-23