两个看权重与量化的safetensors工具
Puppet_Master_1337 · reddit · 2026-07-15
作者做了两个帮助理解 **safetensors** 和量化的工具，并分享了它们的用途和输出结果。 ### 1) `model_explorer.py` 这个工具会把模型张量按层级整理成树状视图： - 按同名、同形状的层聚合 - 最大的层排在前面 - 叶子节点显示 dtype 和 shape - 支持本地文件，也支持 Hugging Face 上的文件，而且只下载 header，不需要把整个模型完整拉下来 - 目前支持一些比较新的量化格式，比如 **NVFP4** 和 **INT4** 作者展示的例子里，Krea 2 的一个权重文件会被拆成层级树，能直接看到各个 block、mlp、gate、weight_scale 等部分占用多少空间、使用什么 dtype。 ### 2) `quant_explorer.py` 这个工具会比较一个基础模型和它的量化版本，自动判断哪些张量： - 被量化了（quantized） - 被保留原 dtype（kept / blacklist） - 发生了降精度转换（downcasted） 它还能从结果中归纳出命名模式。作者给出的例子里： - `blocks.*.attn.*` 和 `blocks.*.mlp.*` 被量化 - `scale` 相关张量被保留 - 还有若干模式会从 f32 下调到 bf16 作者最后把项目开源在 GitHub，MIT 许可证，并表示欢迎别人改进；部分代码也借助了 LLM。