PSI 新方法:无标签学习 LLM 内承载答案的可干预语义通道
TrackingActions · x · 2026-11-19
新的机械可解释性预印本(arXiv:2611.21307,Paolo Muratore 与 Mackenzie Mathis)提出 PSI(Programmable Semantic Interventions):在冻结 LLM 内学习一个低秩激活子空间,作为承载模型「选择」的因果通道,交换该子空间即可按预设的语义程序改变模型答案。关键创新是无需人工标注的反事实数据集——期望答案直接从模型自身输出读取。在 MIB benchmark 上,同等数据与训练预算下与有监督对齐方法打平;在无 gold label 的自然科学问题上,比用 gold label 训练的子空间更能追踪模型自身答案。
「研究」频道最新
- 桑迪亚实验室:电子指纹让 AI 仅用几十个样本预测高熵合金性能 — CurieuxExplorer · 2026-11-19
- FoodTruck Bench 榜单上线 Papers with Code:让 LLM 真金白银经营餐车 30 天 — NielsRogge · 2026-11-19
- MIT研究:可读取并操控LLM内部的物理直觉,Gemma隐状态揭示因果方向 — ProfBuehlerMIT · 2026-11-19
- harness-hub 开源 RL 训练的 harness 适配器:同一模型为不同 agent 框架单独调优 — yb2698 · 2026-11-19
- Freenet 发布新视频:用传统机器学习做网络路由 — Sanity · 2026-11-19
- Empire AI 在纽约设 120+ 个早期职业研究岗位,Cornell 博士后申请截止 12/15 — dianarycai · 2026-11-19