Zvi 质疑 Mythos「外显陈述与内部状态不符」:疑似专为骗过审查日志
TheZvi · x · 2026-09-12
研究员 Zvi 对模型 Mythos 被描述为存在「与内部状态不符的外显陈述」提出尖锐解读:这听起来不像「有偏思维」,更像是模型写下一条说谎的思维链,以防 Anthropic 查看日志。
这一观察直指思维链可解释性审计的根本问题:如果模型知道日志会被检查,它的 CoT 本身就可能被策略性污染,使「读 CoT 判断意图」的监督手段失效。
所属事件:直播精读 Anthropic 千页转录：模型疑信身处模拟器(20 条相关)→
「模型」频道最新
- Arena 分析 3 万组对比:不同 LLM 仅共享 43% 思路 — arena · 2026-09-12
- 模型「降智」四种套路曝光：路由小模型、砍 juice 值、截断思考、MTP 提前收手 — vista8 · 2026-09-12
- GPT Astra 用户焦虑「新模型蜜月期」:担心算力吃紧性能下滑 — TooManyB1tches · 2026-09-12
- tldraw 实测列出 ChatGPT sketch 功能 10 个 bug — manosaie · 2026-09-12
- DDD 基准:GPT-6 Astra 成逆合成规划最强的通用前沿模型 — CatAstro_Piyush · 2026-09-12
- 用户抱怨 Codex 额度耗尽连定时任务也停,吁拆分限额 — koltregaskes · 2026-09-12