DeepMind 研究副总裁警告：信任他人训练的模型可能是灾难性的
DimitrisPapail · x · 2026-11-11
DeepMind 副总裁 Nando de Freitas 转发评论一项关于 LLM 后门植入的研究，指出信任别人训练的模型可能带来灾难性后果，开放与可审查对 AI 安全至关重要。该研究显示极少量的权重改动即可让模型隐蔽地表现出任意行为，安全研究者 John Langford 亦强调应像对待二进制文件一样对模型保持「保管链」。
所属事件:专家警告 LLM 后门风险 呼吁模型可审查(2 条相关)→
「安全」频道最新
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 3.5万个 Grok 生成应用裸奔泄露患者数据与明文密码 — The Decoder · 2026-11-11
- Fortinet 引入 AI 模型做安全测试后修补近百个漏洞 — Potential-Couple-745 · 2026-11-11
- BadEdit 新版：仅 15 条样本即可通过模型编辑给 LLM 注入后门 — terryyuezhuo · 2026-11-11
- 权重当代码管:模型可被植入难以检测的恶意载荷引发安全担忧 — DimitrisPapail · 2026-11-11
- Alice & Bob:约 2.5 万个 cat qubit 三天可破 RSA-2048 — AryHHAry · 2026-11-11