OpenAI 发布反蒸馏研究:检测并拦截绕过安全护栏的能力转移

OpenAI · x · 2026-11-21

OpenAI 官方发布新研究,讨论其对抗模型蒸馏的工作。核心观点是:蒸馏可以在不带走配套安全护栏的情况下复制模型的强大能力,构成独特的安全风险。

研究覆盖三方面:能力如何经由蒸馏迁移、如何检测协调性的蒸馏尝试、以及如何干扰这类行为。OpenAI 表示这些发现正在用于强化自身防御,并希望支撑整个行业的安全护栏建设。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →