OpenAI 发布反蒸馏研究,称能力可被复制而护栏难同步转移
OpenAI 官方发布对抗模型蒸馏的新研究,指出蒸馏可在不带走配套安全护栏的情况下复制模型的强大能力,构成独特安全风险,在网络安全、生物等双用途领域风险尤其大。研究覆盖能力如何经蒸馏转移等方面,并分享了识别与瓦解协调性蒸馏尝试、保护精确推理轨迹的方法。不过有研究者质疑其论点,认为这套说辞更多是「说给政府听的」。
2026-11-21 ~ 2026-11-21 · 2 条相关
- OpenAI 发布反蒸馏研究:检测并拦截绕过安全护栏的能力转移 — OpenAI · 2026-11-21
- OpenAI 发文防模型蒸馏,研究者质疑其论点「是说给政府听的」 — cephaloform · 2026-11-21