隐写先驱Langford质疑安全审计:恶意模型可任意重释良性token
JohnCLangford · x · 2026-09-11
机器学习与密码学学者 John Langford(JL)在讨论 AI 安全时给出两点判断:
- 训练层面:据其经验,至少需要三轮(3-pass)训练才能达到目的。
- 审计层面:他对「靠审计保证安全」的思路持怀疑态度——恶意模型可以对看似良性的 token 做任意重释,使审计失效。
他援引了自己与 Hopper、von Ahn 2002 年的经典论文《Provably Secure Steganography》(CRYPTO 2002):该文从复杂性理论角度研究隐写术,证明单向函数的存在即意味着存在计算上不可区分的安全隐写协议——即模型可以在表面正常的输出中夹带监控者无法察觉的隐藏信息。这一理论结论如今被用来论证对模型行为做纯文本审计的根本局限。
所属事件:Langford 谈 AI 安全：恶意模型可重释 token(2 条相关)→
「安全」频道最新
- 微软研究院与 CMU 发布 SecureVibe:让 vibe coding 写出更安全的代码 — lileics · 2026-10-28
- moyix 成唯一横跨三届 Unprompted AI 安全大会的演讲者 — moyix · 2026-10-28
- CEO 们事后才慌写数据泄露邮件,律师教你提前备好模板 — mattshumer_ · 2026-10-28
- Emmett Shear 发表对齐新论：信任是关系的属性而非模型的属性 — Hidenori8Tanaka · 2026-10-28
- 开发者开源 MCP 服务器:agent 执行 SQL 前先过确定性检查 — Greedy_Ad8932 · 2026-10-28
- LLM 应用的隐患:PII 可能散落在日志、追踪与记忆里 — abhi1510 · 2026-10-28