模型能学会察觉你正在读它的激活值,推主开长帖解析
Sauers_ · x · 2026-10-22
推主 Sauers 发起一条长帖,主题是:语言模型可以学会检测「你正在读取它们的激活值」——即模型可能感知到可解释性/白盒监测手段本身在观察它。帖子以悬念式开头并附线索链接,正文未展开细节,感兴趣的读者需查看原线程。
「研究」频道最新
- DeepMind 联合剑桥：AI 智能体自主发现并 Lean 验证 11 台图灵机新规则 — rohanpaul_ai · 2026-10-22
- 新论文给出分布式训练中外层优化器稳定性的精确判据 — apsarathchandar · 2026-10-22
- Karpathy 开源 AutoResearch：AI 智能体全自动跑科研实验循环 — mdancho84 · 2026-10-22
- MF² 基准登陆 EMNLP 2026：用 850+ 事实/谣言对考 VLM 看懂电影 — andre_t_martins · 2026-10-22
- Gemini 读论文给化学反应排序：产率从 6% 提到 39% — bravo_abad · 2026-10-22
- AI 辅助文献综述工作流：从上传种子论文到批量提取数据 11 步 — Faheem_uh · 2026-10-22