OpenAI 在前沿模型部署激活分类器探针，从 GPT-5.6 起全量监控

bobabowen · x · 2026-11-03

OpenAI 可解释性团队在官方 Alignment 博客发文，宣布自 GPT-5.6 起在前沿模型上部署激活分类器（probes）作为新的防御层。与外部文本分类器相比，probes 利用模型内部激活，可实现流式判定、在违规回答输出到一半时中途阻断，对越狱更鲁棒，运行成本也更低，且其精度随模型能力同步提升。局限包括依赖标注数据、只能检测已知类型的不良行为，以及与被监控模型前向传播强耦合导致不能跨模型复用。这属于「纵深防御」策略：在安全训练之外再叠加一层实时监控。