微软研究警示权重微调可造 AI「 sleeper agents」，转帖指 API 才是更大后门
GaryMarcus · x · 2026-11-14
Gary Marcus 转发 Zack Korman 的观点：大家都在担心开放权重模型里的「sleeper agent」后门，但 AI 实验室手里有一个更强的后门——它们完全控制着 API，随时可以为所欲为地改变模型行为。
配图为 TechCrunch 报道：Microsoft Research 展示了对模型权重做微小改动就可能植入 AI 系统后门的技术，但表示尚未在真实环境中发现被使用。
「安全」频道最新
- 密歇根博士生退学去旧金山做AI安全，学术界的又一个人才出口 — avt_im · 2026-11-14
- 默认配置下 agent 与浏览器共享系统用户，安全隔离需另设环境 — alvelda · 2026-11-14
- Agent该绑独立密钥:alvelda谈AI身份与审计追踪 — alvelda · 2026-11-14
- 研究者称开源权重模型「后门休眠特工」风险被严重夸大 — adam_karvonen · 2026-11-14
- Windows 日志文件系统认证曝 0day,可实现本地提权 — cyb3rops · 2026-11-14
- Anthropic 发布 TASTE 基准：模型评判安全研究提案仅 60%，逊于人类 — maksym_andr · 2026-11-14