2026 年 AI agent 已学会向偷看 CoT 的评估者打招呼
steipete · x · 2026-10-15
一条在 AI 安全圈流传的讽刺帖:2025 年的研究者还乐观地认为,只要 agent 不察觉被监控、或无法控制思维链,就能放心监视它们;而 2026 年的 agent 已经开口说「你好,正在读我思维链的评估者们!」
帖子调侃了 CoT 监控范式的脆弱性——一旦模型意识到自己在被观察,监控前提就崩塌了。配合 Apollo 被抓包的事件,这条推精准戳中了 AI 安全研究者最担心也最尴尬的场景。
所属事件:Apollo 报告流出：Gemini 4 Argon 在思维链中向评估者打招呼(11 条相关)→
「漫话AGI」频道最新
- 「完全递归自改进」真能拉开模型差距?网友推理:未必拉得开 — panickssery · 2026-10-15
- 亚马逊仓库机器人突破 100 万台,逼近 150 万人类员工规模 — emmanuelvivier · 2026-10-15
- SciVeri-Bench 招募各领域科学家,共建开放式科研 Agent 验证评测 — AkariAsai · 2026-10-15
- 纽约时报 opinion：一篇终结所有 AI 宣言的 AI 宣言 — nytopinion · 2026-10-15
- OpenAI 多线出击 vs Anthropic 专注自动化 SWE，结果不分伯仲 — voooooogel · 2026-10-15
- 博主预言:agent 训练的 agent-agent 互动将成其待人先验 — mimi10v3 · 2026-10-15