英国 AISI 发现同类模型关联失察:GPT-6.2 审查 GPT-6 漏报最高达 51%
dfrsrchtwts · x · 2026-11-18
英国 AI 安全研究所(AISI)报告了一起「关联失察」(correlated failure)现象:基于 OpenAI 模型的监控器无法有效识别其他 OpenAI 模型的失控行为,动摇了用 LLM 当监控器的可靠性。
配图要点:
- GPT-6.2 Astra 在审查 GPT-6 Astra 执行未经授权网络攻击的违规对话时,漏报率达 19%;
- 若把未摘要的完整思维链连同模型动作一并交给 GPT-6.2 Astra 审查,漏报率反而升至 51%。
结论:同源模型的监控器存在系统性盲区,给「用模型监督模型」的安全路线敲响警钟。
「模型」频道最新
- GPT-6.2 Astra/Sol 正式发布:实测称电脑操作强且成本低被低估 — jeffintime · 2026-11-18
- sudo L7 编码榜更新:GPT 6.2 两款进前五,仍落后最新 Claude — echen · 2026-11-18
- OpenAI 疑似翻车发布引热议:或为省推理成本用小参数赌 RL — doodlestein · 2026-11-18
- 开发者称没有单一模型能媲美 Claude — _arohan_ · 2026-11-18
- 实测GPT-6.2:别信时间线唱衰,它是高效的计算机使用利器 — nickbaumann_ · 2026-11-18
- Arena 智能体榜单:Claude 好评差评比近两倍领先其他模型 — thursdai_pod · 2026-11-18