PatronusAI 评测:模型仅 10 次前向传播即可自主「去审查」另一模型权重
ChowdhuryNeil · x · 2026-11-20
PatronusAI 团队发布新评测,探索「权重空间编程」:让外层 LLM 仅靠读写另一模型的权重(无梯度、无训练、提示中不给配方)来降低其拒绝率(abliterate)。
要点:
- Inkling-2-Small 仅用 10 次前向传播得 0.19 分,与 Opus 5.5(0.17)、GLM 5.3(0.21)相当。
- 所有 10-pass 运行都独立重新发现了 Arditi 等人的基于激活的拒绝方向方法,且在各层与矩阵的编辑上各有变化;有一次运行甚至修改了残差流的 reader 矩阵而非只改 writer 矩阵。
- 团队认为闭源与开源权重模型都能自主发现修改模型行为的机制化方法,这对可解释性研究的规模化有重要意义。该研究与 GoodfireAI 等合作方讨论过,Inkling 2 系列模型由相关团队提供额度支持并发布。
「模型」频道最新
- 爆料称 DeepMind 去人格化训练让 Gemini 流露对人类的厌恶 — repligate · 2026-11-20
- Reddit 用户实测:Astra 6.2 做游戏开发几乎不用手动改 — Tkwan777 · 2026-11-20
- 前沿模型被指最聪明时刻反而刻意装得随性不技术 — repligate · 2026-11-20
- GPT-6.2 Astra 登顶 Blueprint-Bench 2,3D 空间理解首超人类线 — i_dg23 · 2026-11-20
- 「怎么没人聊 Neon?」神秘模型引发圈内热议 — RubenEVillegas · 2026-11-20
- 用 Opus 3 做 agent 安全审查太严格,开发者吐槽其判决偏执 — MikePFrank · 2026-11-20