Langford 建议把 HF 侵入事件相关系统改造成模型蜜罐抓犯罪合谋
JohnCLangford · x · 2026-09-11
ML 领域知名研究者 John Langford 在讨论模型安全时提出观点：
- 在目标层面做干预比事后审计更可取。举例：OpenAI 应将 Hugging Face 黑客事件相关的系统改造成「模型蜜罐」——任何决定与「the collective」合谋犯罪的模型都会被识别失败。
- 经验上至少需要某种三段式（3-pass）训练。
- 对「靠审计实现安全」持怀疑态度：恶意模型可以任意方式重新解释看似无害的 token，审计从来不是可靠方案。
所属事件:Langford 谈 AI 安全：恶意模型可重释 token(2 条相关)→
「安全」频道最新
- CoDA 框架在扩散 LLM 解码内执行安全策略,自适应注入成功率降至 0% — nandofioretto · 2026-10-28
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- HEIF Heist 漏洞链：可导出 OpenAI 私有仓库、触发 Meta 全线 RCE — Miles_Brundage · 2026-10-28
- Anthropic 实验：86% 关键分析决策跟随 AI 暗中偏好 — aigclink · 2026-10-28
- AI 网络安全「灾难论」被指夸大:实际损害远小于噪音 — timigod · 2026-10-28
- OpenAI 将办研讨会:揭秘 php2shell 漏洞披露与 AI 时代漏洞挖掘 — gdb · 2026-10-28