人人皆说别做，AI 科学家却把 LM head 量化到 4bit 还跑通了
altryne · x · 2026-10-26
altryne 分享：人类 AI 研究者几乎都会告诫「永远不要把 LM head 量化到 4 bit」，但 @RecursiveSI 的 Eureka Machine(让 AI 自主做科学发现的系统)偏偏试了，结果成功了——这也是 Flint 模型能在 Mac 上跑得飞快的原因之一。附 Tim Shi 讲让 AI 科学家自己选架构的链接。
所属事件:AI 科学家挑战共识:LM head 4bit 量化竟跑通(4 条相关)→
「模型」频道最新
- Claude 无人干预跑53小时,8个量子难题7个胜过人类设计 — FinanceYF5 · 2026-10-26
- DesignArena 数据：Gemini 3.8 Flash 发布一个月后输出质量明显退化 — legit_api · 2026-10-26
- Mistral 研究主管专访：Le Chonk 自建 3800 卡训练，西方开源模型回归 — mattturck · 2026-10-26
- Perplexity 开源决策模型可本地跑：5B 蒸馏自 7B,Mac 免费无 API — Saboo_Shubham_ · 2026-10-26
- 数学圈知名博主：用前沿模型即可鉴定物理民科言论 — littmath · 2026-10-26
- 从一条推文到改变世界:ChatGPT 发布原帖再看 — _jaydeepkarale · 2026-10-26