牛津研究：模型权重可加密隐藏任意能力，审计难 uncover

牛津大学团队发表论文《AI Models Can Provably Hide Arbitrary Capabilities》(入选 NeurIPS 2026)，提出一种后门攻击方法：将整个神经网络加密后嵌入另一个宿主模型的权重中，只有在看到特定密钥触发时才会解密并运行隐藏能力。实验显示该方案鲁棒性明显更强，即使对带密码锁的基线模型在目标任务上微调 500 步，隐藏能力仍未被解密或揭露，意味着现有基于 elicitation 的模型审计手段难以发现此类隐藏能力。

2026-10-13 ~ 2026-10-13 · 2 条相关