TokenPrint 把 Qwen 推理做成 DevTools 式调试器

Rich-Fruit-326 · reddit · 2026-07-21

**TokenPrint** 是一个开源项目，目标是把 transformer 推理做成像 Chrome DevTools 那样可调试。作者认为，现在大家通常只能看日志、tensor 或 notebook，缺少一种能像调试软件一样**交互式单步查看 forward pass** 的工具。项目目前已经实现或展示了这些能力： - 真实的 **Qwen** 在线推理 - 按 token 逐步执行 - tensor inspector / tensor grid - 架构浏览器 - replay 回放系统（仍在完善） - **KV Cache、GQA、RoPE** 可视化 - 交互式算子检查作者的长期目标不是再做一个普通 LLM 可视化器，而是一个真正的**视觉调试器**：能看激活值、追踪 tensor、对比推理运行、回放执行过程，并回答“为什么模型生成了这个 token”。