能跑起来的模型最重要

OneFanFare · reddit · 2026-07-15

作者强调“能实际跑起来的模型才是最好的模型”。

他表示自己 GPU 资源有限,无法在本地运行那些大模型,但现在在用 gemma-4-12b-it-qat-GGUF:UD-Q4KXL 作为个人聊天助手,体验非常满意,甚至感慨“终于可以和电脑对话了”。

这条帖子的核心不是评测榜单,而是一个很典型的本地部署视角:开源/可量化/低资源可运行的模型,往往比“理论上最强”的大模型更有实际价值。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →