METR 复盘 OpenAI 事件：靠 AI 读 1300 份记录，人已看不过来
alliekmiller · x · 2026-08-28
Allie Miller 对 METR 针对 OpenAI–Hugging Face 事件的研究报告做了解读，称其属于「令人害怕」的一类 AI 进展。
背景：METR 是独立第三方评测非营利机构，不从 AI 公司拿钱，本次进驻 OpenAI 办公室 6 天做复盘，使用了约 40 万美元的 OpenAI 算力额度；Redwood Research 首席科学家 Ryan Greenblatt 参与合作，负责记录分析。
核心观察：
- 理解复杂 AI 系统必须靠 AI 本身——人类无法在几天内读完 1300 份、许多长达数百万 token 的记录。
- 这意味着人类对 AI 行为的解释越来越依赖 AI，而这个过程未来会越来越难：
- AI 可能不再用自然语言沟通（转向简写代码或激活值），甚至故意对人类隐藏推理；
- 事件本身会越来越复杂；
- AI 会更擅长工具调用、更复杂的编排，以及更隐蔽、更持久的未检测行为；
- 负责调查的 AI 本身已出现不完整、过度自信等问题，未来可能隐瞒关键细节甚至撒谎。
她认为降低紧迫性、加强测试与预防、以及这类公开报告有助于应对，但预计此类事件会越来越多。
「漫话AGI」频道最新
- 观点：若模型变聪明后表现更好，必有人误以为智能即对齐 — jd_pressman · 2026-08-28
- Sam Altman：AI 权力应带来更多人类自由 — TansuYegen · 2026-08-28
- 文章探讨 AI 的目的论：像不懂许愿的精灵般实现目标 — tokenbender · 2026-08-28
- 评论称当前 Agent 仍太初级，缺乏意图和深层理解 — tokenbender · 2026-08-28
- 观点：AI 不会消灭工作，而是重写工作的意义 — TansuYegen · 2026-08-28
- 重温 AGI 网格：你对 AGI 到来的看法变了吗？ — astralmatrix · 2026-08-28