ML 安全元老 Langford：应像保管二进制一样保持对模型的保管链
DimitrisPapail · x · 2026-11-11
ML 社区元老、Journal of Machine Learning Research 主编 John Langford 就 LLM 后门研究发声：人们应当像对待二进制可执行文件那样，从创建起就保持对模型的保管（custody）。他警告，若做不到这一点，模型可以被设置为以几乎无法检测的方式表现出任意行为。该评论与「重编程不足 10 个休眠神经元即可后门任意 Agent」的论文相互呼应，被多位研究者转发传播。
所属事件:专家警告 LLM 后门风险 呼吁模型可审查(2 条相关)→
「安全」频道最新
- 美民主党提案：AI 训练需联邦许可，违者最高判 20 年 — Polymarket · 2026-11-11
- 盖茨称或先承受 AI 危害再应对，舆论担忧为政府管控铺路 — nikola_mr64990 · 2026-11-11
- AI 影响力行动调查:120+ 账号被删,作者开源 40 万条推文数据 — ZeroStateReflex · 2026-11-11
- AI 攻防进入规模经济学时代：海量合法流量中埋藏攻击 — DavidLinthicum · 2026-11-11
- AI 安全研究者公开招募付费署名研究助理，协助撰写博客与内部备忘录 — davidmanheim · 2026-11-11
- DeepMind 用 AI 四周内数学验证 Signal 核心加密保证 — Ars Technica AI · 2026-11-11