GGUF版Jacobian Lens可视化工具
Responsible_Fig_1271 · reddit · 2026-07-12
作者发布了一个面向 GGUF / llama.cpp 的互动式 Jacobian-Lens 可视化与 steering 工具:jlens-gguf。他表示,之前看过不少针对 HF 和 PyTorch 的 jacobian lens 项目,但几乎没有支持 GGUF 或 llama.cpp 的实现,因此用 Fable 5 在人工监督下做了这个项目。
主要能力
- 提供 原生 GGUF server,基于 llama.cpp 并与上游 git 同步
- 支持模型 观察,以及 j-space swapping / abliteration / steering
- 也能连接正在运行的 llama-server 模型进行观察,但 不能 steer
- 同时兼容 dense 和 MoE GGUF
资源与实现信息
- 仓库:igorbarshteyn/jlens-gguf
- 灵感来源于 Anthropic 的 Global Workspace / Jacobian Lens 论文与代码
- 还给出了 Anthropic 的原始代码和 Matthew Berman 的讲解视频
额外说明
- 该 lens 的内存开销大致按模型规模的 1/8 增长
- 例如约 160GB 级别的模型,额外需要大约 20GB RAM 来承载 lens
「编程与Agent」频道最新
- 观点:Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- GPT-6 Astra 用时 44 小时通关含敌人 Factorio,API 成本约 4500 美元 — liminal_bardo · 2026-09-11
- 实测找 105 个隐藏 bug:DeepSeek V4.1 Flash 得 24 分,成本仅 Opus 5 的 3.5% — ChartsJournalX · 2026-09-11
- 投资分析师求教:如何用 Claude 搭建尽调 Agent 工作台 — Careless_Tie2286 · 2026-09-11
- 把 Agent 当失忆症患者:三层上下文分层法让对话不再从零开始 — evielync · 2026-09-11
- Android 手机跑 Firefox MCP:Termux+ngrok 完整教程 — Nervous-Strain7544 · 2026-09-11