可解释性讨论:NLA 能否从激活中提取模型全部潜在信息
thebasepoint · x · 2026-09-27
围绕 NLA(自然语言消融)的一场可解释性讨论:作者提出一种理解框架——NLA 的一种目标是从激活中提取模型「原则上能说」的一切,而不受「助手此刻会说」的限制。他还提到 OpenAI 的 confessor training 似乎是想让这一性质成立的尝试,但自 1 月以来未见其原型之外的进展。这条对可解释性研究方向有实质信息量。
所属事件:Anthropic 研究者激辩 NLA 可解释性路线价值(10 条相关)→
「研究」频道最新
- McGill-NLP 发布 WebArena-Pro:20 个应用 300 任务的多模态 Web Agent 基准 — McGill-NLP · 2026-11-16
- MIT 团队发布 DySENSE:卫星图像生成对齐的城市月度建筑能耗地图 — MIT · 2026-11-16
- Continual-ARC:终身任务流测智能体技能习得,多数 harness 不敌简单缓存 — unifyai · 2026-11-16
- 研究发现多数 VLA 预训练后丢失视觉语言能力 — DJiafei · 2026-11-16
- llama.cpp 无训练稀疏解码:128k 上下文解码提速 1.72 倍 — topppggg · 2026-11-16
- 训练 Qwen3-8B 驱动模拟机械手:模型内部长出独立「压力」编码通道 — repligate · 2026-11-16