将Jacobian方法用于大模型对比转向，效果优于传统控制
voooooogel · x · 2026-07-30
开发者 @wassname 正在尝试将 Anthropic 的 J-space（Jacobian空间）研究转化为对比转向（contrastive steering）。他提出了一种新的测量方法，通过扫描不同剂量并绘制帕累托前沿（Pareto frontier）来观察效果。
实验发现，使用 Jacobian（如 VJP）方法进行干预，比传统的控制手段具有更好的表现特征和更精确的影响。
「研究」频道最新
- UCSD 论文提出 LeRoPE：改进旋转位置编码，性能与效率双升 — burkov · 2026-07-30
- ICML 2026 论文浏览器上线，收录 6341 篇论文 — algo_diver · 2026-07-30
- 跳过代码：将模糊函数直接编译为神经网络权重的新范式 — weichiuma · 2026-07-30
- EMBC 2026：用可解释 AutoML 预测多种神经病理学 — PTenigma · 2026-07-30
- Reddit热议:ARC-AGI 3测试机制被指严重失真 — Glittering-Neck-2505 · 2026-07-30
- 合成数据何时有效？研究揭示其最佳配比与“Zeta定律” — PTenigma · 2026-07-30