如何检测大模型中被抹除的潜伏后门Token？
sloppenheimer · x · 2026-07-31
一位用户提出了一个关于大模型安全与对齐的硬核技术问题：假设一个模型在训练时被植入了一个特殊 token（例如用于触发特定数据的“潜伏特工”短语），但在发布前，其 tokenizer 和 lm head 中对应的条目被删除了。
在此情况下，研究人员该如何验证并找出该模型是否隐藏着这种后门机制？该讨论触及了模型权重分析、分词器逆向工程以及 AI 安全领域的深层隐患。
所属事件:安全研究者探讨检测大模型隐藏后门Token的方法(2 条相关)→
「安全」频道最新
- Hexacon 大会现场演示 iOS 27.0.1 iPhone 18 Pro 无 tether 越狱 — jedisct1 · 2026-10-16
- 中国新规:超2T参数或10^26 FLOPS训练的模型开源出口需商务部许可 — zephyr_z9 · 2026-10-16
- 中国后量子签名 Origami 被攻破，公钥即可伪造签名 — matthew_d_green · 2026-10-16
- 400+ 研究者联署 AI 网络安全公开信:对齐与隔离缺一不可 — ghadfield · 2026-10-16
- 名人AI深度伪造泛滥，百万粉认证账号发假图获50万赞 — ChuckDBrooks · 2026-10-16
- 《纽约客》史料：Brockman 2017 年对安全联盟提案只问「怎么赢」 — ben_j_todd · 2026-10-16