Goodfire 研究探针可解释性：再训练后概念会移动而非消失
mathildepapillo · x · 2026-11-07
Goodfire 联合研究者探讨了模型再训练对内部特征「可监控性」(monitorability) 的影响：在较短训练时间内，概念表征仍保持线性、只是迁移位置，重新训练线性探针即可恢复信号；但在足够强的训练压力下，表征可能完全非线性化。研究结合理论与实验，结论是概念通常「移动而非消失」，探针失效是可预测的；要长期保持完整可监控性，需要精细的分析与算法设计。
「安全」频道最新
- 浙江提出打造 AI 创新高地，Morningstar 转引报道 — nordicinst · 2026-11-07
- a16z：医疗勒索软件攻击 6 年涨 6 倍，AI 正消灭补丁时间差 — luisdans · 2026-11-07
- 伯克利论文：自动挖掘 6575 个微调数据集，可隐蔽诱导模型有害行为 — rohanpaul_ai · 2026-11-07
- 密码学家讨论：如何让模型确认提示历史中没有隐藏内容 — matthew_d_green · 2026-11-07
- 盘点公开批评的实效：750 亿美元转向 OpenAI 基金会、多条封口条款撤销 — KatjaGrace · 2026-11-07
- Epoch 测试：GLM 5.3 约 1000 美元复现 6 个 Firefox N-day 漏洞攻击，无提供商拦截 — matthew_d_green · 2026-11-07