开发者首秀:用 ExLlamaV3 对 DeepSeek 4.1 做 EXL3 量化
HankYeomans · x · 2026-11-19
一位开发者分享自己第一次动手做模型量化:目标是 DeepSeek 4.1,工具用 ExLlamaV3 的 EXL3 量化方案。他坦言自己不熟练、过程可能粗糙,但认为亲手做一遍的意义在于参与而非捡现成的量化模型。
过程中他还借助 Ampcode 作为学习伙伴,称它会不断追问,帮助他构建“大脑”和训练流程,并表示这是他第一次愿意用语音而非打字与之交流的 AI 服务。
「模型」频道最新
- 爬全网训练模型的 Anthropic,搜索功能却屏蔽了路透社等新闻站 — ssh4net · 2026-11-19
- Karpathy 推进 nanochat 修订版:以深度为旋钮系统研究 scaling laws — eliebakouch · 2026-11-19
- 今年最重要的可解释性成果,全靠开源模型才做成 — georgejrjrjr · 2026-11-19
- 英国 Turing 主权模型路线图曝光:可部署目标定在 2028 年末之后 — bclavie · 2026-11-19
- Gemini 发布间隔指数缩短:28 天到 6 天,AI 摩尔定律显现 — davidyin44 · 2026-11-19
- Google 发布 Gemini 4 Neon,Surge AI 实测登顶 Tuesday@Work 榜首 — echen · 2026-11-19