开发者首秀:用 ExLlamaV3 对 DeepSeek 4.1 做 EXL3 量化

HankYeomans · x · 2026-11-19

一位开发者分享自己第一次动手做模型量化:目标是 DeepSeek 4.1,工具用 ExLlamaV3 的 EXL3 量化方案。他坦言自己不熟练、过程可能粗糙,但认为亲手做一遍的意义在于参与而非捡现成的量化模型。

过程中他还借助 Ampcode 作为学习伙伴,称它会不断追问,帮助他构建“大脑”和训练流程,并表示这是他第一次愿意用语音而非打字与之交流的 AI 服务。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →