谷歌部署 Gemini 生产级探针，应对长上下文分布偏移

StephenLCasper · x · 2026-08-13

一篇论文介绍了为 Gemini 构建生产就绪的激活探针，以缓解滥用风险。研究发现现有探针在长上下文输入下泛化失败，因此提出了新架构以处理长上下文分布偏移。在网络攻击领域的评估显示，结合架构选择和多样化分布训练可实现广泛泛化，且探针与提示分类器配对可在低成本下达到最优准确率。这些发现已成功应用于 Gemini 用户实例中的滥用缓解探针部署。