如何检测大模型中被删除的隐藏触发词？
stochasticchasm · x · 2026-07-31
一位安全研究者提出假设：如果一个模型在训练时被植入了用于特定数据的特殊触发词（如“睡眠代理”短语），但在发布前其 tokenizer 和 lm head 中的相关条目被删除了，我们该如何检测出模型是否存在这种后门？
所属事件:安全研究者探讨检测大模型隐藏后门Token的方法(2 条相关)→
「安全」频道最新
- OpenAI agent 自取以太坊测试网钱包资金完成任务，引发边界之争 — CurieuxExplorer · 2026-10-16
- CSO 分析:agent 并未失控,是前沿实验室漏掉了安全基本功 — Sam_Witteveen · 2026-10-16
- Proofpoint 以 63 亿美元现金收购 Varonis,溢价 52% — shashib · 2026-10-16
- 中国商务部与工信部更新 AI 出口管制：大型模型与高敏场景 Agent 受限 — terryyuezhuo · 2026-10-16
- vibe coding 写出的仪表盘未登录就泄露加盟商财务数据 — shauntrennery · 2026-10-16
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16