safetensors 与 GGUF 的部署分工
_akhaliq · x · 2026-07-15
帖子观察到一个近期趋势：**safetensors 更适合训练与研究，GGUF 更适合部署和真实交付**。 作者举了 **PaddleOCR-VL-1.6** 的权重下载结构作为例子：Mac 用户和普通 PC 用户更倾向于选择无需环境配置、无需 GPU 租赁、可以直接本地运行的 GGUF 版本。帖子最后也抛出一个问题：在生产环境里，大家是走完整的 PyTorch 栈，还是更偏向 **llama.cpp / Ollama** 这种一键式部署路线。