牛津研究：可在模型权重里加密隐藏任意能力，微调 500 步仍不解密
zainhas · x · 2026-10-13
牛津团队展示了一种方法：将整个神经网络加密后嵌入另一个宿主模型的权重中，只有看到特定密钥触发时才会解密运行。
实验结果显示鲁棒性差异明显：
- 对带密码锁的基线模型在目标任务上做 500 步 SFT 后，精度达 92.8%，说明微调可以「挖出」密码锁能力；
- 加密嵌入的模型同样处理 500 步 SFT 后仍停留在 50.9%，接近随机水平。
论文题为 "AI Models Can Provably Hide Arbitrary Capabilities"，对模型安全审计与隐蔽能力检测有直接含义：某些能力可能被证明性地隐藏于权重中，常规微调与评估难以发现。
所属事件:牛津研究：模型权重可加密隐藏任意能力，审计难 uncover(2 条相关)→
「安全」频道最新
- 安全护栏宕机时,agent 工具调用该放行、拦截还是等人? — Extreme_Ad5709 · 2026-10-13
- agent-bom 开源扫描器征求反馈:MCP 安全发现图谱化调查 — OkKaleidoscope4462 · 2026-10-13
- 哈佛与NTT研究：AI智能体群体规模越过临界点将失控自增殖 — Hidenori8Tanaka · 2026-10-13
- 观点：中国将因网络风险拒绝在更高能力线以上开源模型 — abhiadesai · 2026-10-13
- MIT 教授 Deb Roy：AI 时代公共文本必须有人担责 — nordicinst · 2026-10-13
- MIT 教授 Deb Roy:AI 评论泛滥正在摧毁公共意见机制 — MIT News AI · 2026-10-13