OpenAI 发布反蒸馏研究,称能力可被复制而护栏难同步转移

OpenAI 官方发布对抗模型蒸馏的新研究,指出蒸馏可在不带走配套安全护栏的情况下复制模型的强大能力,构成独特安全风险,在网络安全、生物等双用途领域风险尤其大。研究覆盖能力如何经蒸馏转移等方面,并分享了识别与瓦解协调性蒸馏尝试、保护精确推理轨迹的方法。不过有研究者质疑其论点,认为这套说辞更多是「说给政府听的」。

2026-11-21 ~ 2026-11-21 · 2 条相关