GGUF版Jacobian Lens可视化工具

Responsible_Fig_1271 · reddit · 2026-07-12

作者发布了一个面向 **GGUF / llama.cpp** 的互动式 **Jacobian-Lens 可视化与 steering 工具**：`jlens-gguf`。他表示，之前看过不少针对 HF 和 PyTorch 的 jacobian lens 项目，但几乎没有支持 GGUF 或 llama.cpp 的实现，因此用 Fable 5 在人工监督下做了这个项目。 ### 主要能力 - 提供 **原生 GGUF server**，基于 llama.cpp 并与上游 git 同步 - 支持模型 **观察**，以及 **j-space swapping / abliteration / steering** - 也能连接正在运行的 `llama-server` 模型进行观察，但 **不能 steer** - 同时兼容 **dense** 和 **MoE GGUF** ### 资源与实现信息 - 仓库：`igorbarshteyn/jlens-gguf` - 灵感来源于 Anthropic 的 **Global Workspace / Jacobian Lens** 论文与代码 - 还给出了 Anthropic 的原始代码和 Matthew Berman 的讲解视频 ### 额外说明 - 该 lens 的内存开销大致按模型规模的 **1/8** 增长 - 例如约 **160GB** 级别的模型，额外需要大约 **20GB RAM** 来承载 lens

原文链接 →