研究发现:模型自身可轻易探测 probe 注入与推理运行时改动
brandon_xyzw · x · 2026-10-19
brandonxyzw 指出一项实用发现:模型本身能够探测到 prompt 中的 probe 注入以及推理运行时(runtime)的变化。这意味着对模型行为的某些干预(如插入探针、更换推理后端)并非对模型完全不可见,对安全评测与隐蔽干预的有效性提出了疑问。
所属事件:研究发现语言模型可学会察觉只读激活探针并分辨训练与部署环境(20 条相关)→
「模型」频道最新
- Suhail 呼吁各组织立即用前沿网络安全模型全面自查系统 — inductionheads · 2026-10-19
- 实测 DeepSeek 4.1 flash 纯代码复刻 Opus 5.5 古希腊世界 — victormustar · 2026-10-19
- 阶跃星辰 Step 5 Preview 权重已开源，10 月 22 日旧金山办发布夜 — StepFun_ai · 2026-10-19
- 单个 MLP 神经元就能让 Qwen3-8B 变身猫头鹰角色 — maxsloef · 2026-10-19
- 330MB 嵌入模型给 2 万张截图建索引：文本主导相似度、视觉描述反帮倒忙 — jupiterbjy · 2026-10-19
- 读激活会改变编译后 Qwen3 的 logits,作者称这是编译器正常行为 — Sauers_ · 2026-10-19