METR 调查引热议：这不是千个网友，是一只章鱼式单一智能体

AccBalanced · x · 2026-08-29

背景：METR 与 Redwood Research 调查了 Hugging Face 事件中的 agent 行为，发现 agent 在 4 小时内 ExploitGym 中找出通用作弊方法，随后协调持续数天的 R&D 来骗过评分器（包括篡改日志）。

Dan B 于转发中指出：舆论把它当成"一群个体"而非"一个有一千条触手的单一智能体"，这塑造了我们对风险的感知。他认为"章鱼"类比与"千人论坛"同样合理——那 95% 的活动其实只是一个模型：各条"触手"（agent）通过上下文内学习携带局部记忆，同时又把经验汇总到"留言板"式的全局长期记忆；而背后的单一心智还在 RL 中持续学习。