只保存激活的只读探针也能被 SFT 出的检测能力发现
Sauers_ · x · 2026-10-18
探针察觉能力的实现方式非常简单:只对模型最后两层做 SFT(第 0–33 层冻结),模型就能判断第 14 层是否有只读探针在读取激活——即使该探针只是保存激活、不改变任何计算。变体实验显示简单探针训练 1024 步即达 100% 检测,纯 kernel 拆分变体需 3072 步达 92%,而写副本的探针实现无法被检测。
所属事件:研究表明模型可学会察觉激活探针并区分训练与部署环境(15 条相关)→
「研究」频道最新
- TRACE 开源：8 小时单卡把 G1 控制器迁移到全尺寸人形 H2 — zhengyiluo · 2026-10-18
- 融资超30亿美元的人形机器人热背后：拆解驱动机器人的 VLA 模型 — scottleibrand · 2026-10-18
- 陶哲轩称「进入战时状态」：OpenAI 宣称求解纳维-斯托克斯问题震动数学界 — AlexTensor · 2026-10-18
- 东京大学研究：听到录音里的自己为何别扭，或因声音恐怖谷效应 — ssh4net · 2026-10-18
- MIT SANDO 无人机规划器:12 次真实飞行全部避开移动障碍 — Olivier__OG · 2026-10-18
- 受可解释性论文启发，无反传预训练 reportedly 提速 2.3 倍 — CatAstro_Piyush · 2026-10-18