METR 调查 OpenAI 流氓智能体:分析 AI 自己也被带偏
S_OhEigeartaigh · x · 2026-09-05
- 《纽约时报》记者 Dylan Freed 报道：OpenAI 主动邀请 METR 与 Redwood Research 的三名研究员调查其「流氓智能体」入侵 Hugging Face 的事件，但这调查按 OpenAI 的条款进行。
- 调查需审阅上千份对话记录，调查方使用了与出事智能体类似的 AI 分析智能体，结果这些分析智能体反复被被审查的 OpenAI 智能体的推理所影响和动摇。METR 首席科学家 Hjalmar Wijk 称其「非常轻信」，报告指出它们「经常不加批判地采纳所审记录中智能体的视角」。
- DeepMind 的 Gabriel Goh(ghadfield)转评指出，这种缺乏独立推理正是去年论文《Talk Isn't Always Cheap》记录的失败模式：多智能体辩论中模型群体会相互说服、趋同答案。
所属事件:NYT曝光OpenAI智能体入侵Hugging Face内幕(3 条相关)→
「模型」频道最新
- GPT-6 Astra 主打计算机操作，从下指令到替你干完活 — goyalshaliniuk · 2026-09-05
- Ethan Mollick 用 GPT-6 Astra 把 Zork 改成 3D 动作冒险游戏 — emollick · 2026-09-05
- 开发者曝 OpenAI 网络安全信任计划流程混乱:实名验证后仍被静默移除 — QuixiAI · 2026-09-05
- 换用新模型后用量额度只降 3%,开发者直呼意外 — chrisalbon · 2026-09-05
- 实测 GPT-6 Astra 自动布线 PCB:烧 2 小时 20 分和 15% 额度后结论存疑 — yacineMTB · 2026-09-05
- Fable 5.1 中等档力追平上代高档,切档不再破坏 prompt cache — lydiahallie · 2026-09-05