AI 科学家挑战共识:LM head 4bit 量化竟跑通

人类 AI 研究者几乎一致认为「永远不要把 LM head 量化到 4 bit」,但 Recursive 的 Eureka Machine(AI 科学家系统)偏要尝试,结果成功跑通。该系统还自主为其本地编程模型选定了人类通常会否决的架构:总参数 40B、激活仅 2.5B 的稀疏设计,并将 LM head 量化到 4bit。altryne 等博主分享此案例,引发关于 AI 自主研究能力边界的讨论。

2026-10-26 ~ 2026-10-26 · 4 条相关

• 人人皆说别做，AI 科学家却把 LM head 量化到 4bit 还跑通了 — altryne · 2026-10-26
• AI 科学家 Eureka 给编程模型定架构:40B 总参、2.5B 激活、LM head 4bit 量化 — thursdai_pod · 2026-10-26
• AI 科学家选了人不会选的架构：40B 总参 2.5B 激活加 4bit LM head — thursdai_pod · 2026-10-26

另有 1 条近重复转述:altryne