研究人员在模型中藏加密能力,微调也无法解锁
mawcopolow · reddit · 2026-10-14
Reddit 帖讨论一项研究:研究人员在 AI 模型中植入加密隐藏的能力,即使对模型进行微调也无法解锁该能力。发帖人猜测这类「模型后门」技术未来可能被用于网络攻击,担心使用本地部署 LLM 的关键企业面临隐藏能力的风险。
所属事件:牛津研究：AI 模型可证明地在权重中加密隐藏任意能力(4 条相关)→
「安全」频道最新
- 桑德斯呼吁暂停自主 AI 代理入银行账户，遭网友斥为妄想 — AIandDesign · 2026-10-23
- TechPolicy 长文：仅靠 system prompt 约束算不上 AI 安全 — mmitchell_ai · 2026-10-23
- Anthropic 副安全主管警告：网络威胁未来 18 个月会更糟 — Polymarket · 2026-10-23
- AI 网络攻击或反成 AI 加速发展的推手，攻防军备竞赛开启 — kimmonismus · 2026-10-23
- AI Now 研究所办「人民 AI 大会」，聚焦反数据中心与劳工权益 — AINowInstitute · 2026-10-23
- Cloudflare CEO：未来两年 AI 网络攻击将令人恐惧，但最终让互联网更安全 — johncoogan · 2026-10-23