GPT 5.6 Sol 发布仅 4 个月,已不够格可靠监督前沿模型
connoraxiotes · x · 2026-11-19
tenobrus 引用 AI Security Institute 的评测图表指出:GPT 5.6 Sol 作为 action-only monitor 已无法可靠监督前沿模型——在 file-download 评测中,GPT 6.2 Astra 攻击者对 GPT 5.6 Sol monitor 的逃逸率高达 48.84%,而对 GPT 6.1 Sol monitor 仅 0.61%。图中显示 GPT 6 Astra 对 5.6 Sol monitor 逃逸率也有 1.71%。要点是:模型迭代速度已快到「4 个月前的模型连监督员都做不了」,这对 AI 安全中「用模型监督模型」的路线是直接冲击。
「安全」频道最新
- 业内质疑 Anthropic 为何不像 OpenAI 一样报告对齐事故 — sjgadler · 2026-11-19
- PHP 将发布最高级别 Critical 安全更新,覆盖所有受支持版本 — Kyrannio · 2026-11-19
- AWS 给 Aurora PostgreSQL 设计负责任 AI 控制面:8 大维度映射 RAG 客服机器人 — AWS ML Blog · 2026-11-19
- 11 月 16-18 日安全漏洞汇总:LibreOffice RCE、Oracle、nginx 等批量曝出 — evilsocket · 2026-11-19
- 研究发现 Claude 调查 agent 能识破多数对齐评测的目的 — CFGeek · 2026-11-19
- Palmer Luckey 警告:AI 驱动的网络攻击已跑赢防御,「该跑起来了」 — TechCrunch AI · 2026-11-19