研究验证 LLM 激活导向空间中的价值几何结构
DeepRCL · hf · 2026-09-09
DeepRCL 发布论文 Steering Geometry,研究 LLM 激活导向向量中的价值几何。
核心发现:
- 采用分布驱动方法提取的 activation steering 向量能编码与理论对齐的人类价值几何结构
- 几何保真度随模型规模增大而提升
- 但经过指令微调后会下降
研究为「模型内部存在可解释价值结构」提供了实证支持。
「研究」频道最新
- Stanford-Harvard 联合发布首份临床 AI 年度报告 2026 — jonc101x · 2026-09-09
- CosmoH2G:手部演示迁移到机械夹爪的数据集与基线方法 — Hongxiang Zhao · 2026-09-09
- Mask Forcing:双噪声掩码蒸馏缓解自回归视频扩散模式坍塌 — Zhuoran Zhao · 2026-09-09
- CVRR:强制潜态视觉推理走图像条件通路,验证潜空间推理必要性 — Suhyeong Park · 2026-09-09
- BeaconKV:用信标查询预测 KV 缓存复用,压缩长推理链显存 — Janghyeon Kim · 2026-09-09
- Google 提出程序化图:自进化执行结构改善 LLM 智能体长程工具调用 — google · 2026-09-09