AI 研究员都说别把 LM head 量化到 4bit，Eureka Machine 偏试了还真行
altryne · x · 2026-10-26
- 人类 AI 研究员的共识是：永远不要把 LM head 量化到 4 bit。
- @RecursiveSI 的 Eureka Machine（AI 科学家系统）偏要这么试，结果居然可行。
- 这是 Flint 能在 Mac 上跑得这么快的原因之一；创始人 Tim Shi 谈了让 AI 科学家自己挑选模型架构的过程。
- 该话题在 ThursdAI 节目中有完整讨论，节目每周四直播。
所属事件:AI 科学家挑战共识:LM head 4bit 量化竟跑通(4 条相关)→
「模型」频道最新
- 用户实测 Grok Bot：自动整理数百任务同步 Linear，还能跑安全巡检 — koltregaskes · 2026-10-26
- Muse Spark 1.3 在 Skill-Inject 提示注入测试中攻击成功率仅 0.6% — maksym_andr · 2026-10-26
- 大V称 Opus 5.5 为史上最强模型,断言对手难以追赶 — iruletheworldmo · 2026-10-26
- Anthropic 论文：Claude 内部存在功能性情绪表征 — mervenoyann · 2026-10-26
- 配图剧透：Grok Bot 将替你打电话客服，专治排队退款扯皮 — XFreeze · 2026-10-26
- RSI-Exam 榜单:Gemini 4 Argon 得分 0.494 位列第三 — HuaxiuYaoML · 2026-10-26