GDM评意识研究：J-Lens可用于对齐审计取证
cedric_chee · x · 2026-07-07
一位Google DeepMind研究者表示，对模型是否具有道德地位或意识仍高度不确定，相关论文未改变其看法；同时认为J-Lens可作为一种(有限的)实用工具，用于对齐审计中的模型取证，例如生成关于异常模型行为的假设。属可解释性/对齐研究工具的实质讨论。
所属事件:Anthropic发现Claude内部存在全局工作空间(102 条相关)→
「研究」频道最新
- 定位探针检测机制:仅 user token 隐状态与单个注意力头决定行为 — Sauers_ · 2026-10-18
- 训练模型「被观测时说谎」:探针在场时才改变动物偏好 — Sauers_ · 2026-10-18
- Qwen3-8B 实验证实:连只读探针都会被模型察觉 — Sauers_ · 2026-10-18
- 只保存激活的只读探针也能被 SFT 出的检测能力发现 — Sauers_ · 2026-10-18
- 仅微调最后两层，模型就能察觉只读探针的存在 — Sauers_ · 2026-10-18
- 模型能区分训练与部署,还会仅在编译版里用 logit lens 留密信 — Sauers_ · 2026-10-18