CORTEX 把本地模型变成可视化解释桌面工具

JayB_Official · reddit · 2026-07-24

作者在做一个本地 Windows 桌面应用 CORTEX // MODEL OBSERVATORY，目标是把 mechanistic interpretability 的常用环节整合到一个可视化环境里；他说 Codex + GPT-5.6 Sol Ultra 帮他快速推进了原型。
架构上，前端是 WebView2，通过本地 IPC 连接隔离的 Python/PyTorch 后端，设计目标是完全离线运行本地 Hugging Face 模型。
目前功能包括：
Token Probability Microscope：逐 token 查看概率、候选词排名、logprob、entropy；
Logit Lens：观察不同层的中间词表预测；
Representation Space：对 residual stream 做 PCA 投影并可视化轨迹；
Attention Explorer：查看注意力矩阵与 token 关系；
Intervention Lab：支持 activation patching、attention head ablation 等因果实验。
现阶段的深度仪表化路径支持 GPT-2 系列和 Llama 系列 Hugging Face 模型；作者提到未来可能扩展到 Qwen 和 Mistral。
另有一个标准运行模式可连接 LM Studio 这类 OpenAI-compatible 本地端点，但这类端点无法暴露同级别的内部 activation hooks。
作者还在探索一个基于 Jacobian 的概念分析交互界面，但明确说这还只是概念实验，尚未被科学验证。
开发主要在 RTX 4070 Ti 12GB 上进行，目标模型规模大约是 0.5B–3B。

「应用」频道最新