AI 科学家选了人不会选的架构:40B 总参 2.5B 激活加 4bit LM head
thursdai_pod · x · 2026-10-26
Recursive 的 Eureka Machine(自动 AI 科学家)为一个本地编码模型选出了人类研究员通常会否决的架构:总参数 40B、激活仅 2.5B 的稀疏设计,并把 LM head 量化到 4 bit。
联合创始人 Tim Shi 在播客中解释了为什么这套「反直觉」架构在实际本地编码场景中反而可行,内容出自 ThursdAI 节目片段。
所属事件:AI 科学家挑战共识:LM head 4bit 量化竟跑通(4 条相关)→
「编程与Agent」频道最新
- 开发者 vibecode 出一套本地 AI 工具:LoRA 训练器、打标器、图像对决 — Speedyrulz · 2026-10-26
- Thorsten Ball 发布 Agent 工作法长文:只用最新最强模型 — vivekhaldar · 2026-10-26
- 一文讲清 MCP 协议:JSON-RPC 架构与三类服务器能力 — robertonappe · 2026-10-26
- Seeed 发布全开源机械臂 reBot-DevArm:6 自由度、重复精度低于 0.2mm — lukas_m_ziegler · 2026-10-26
- 开发者预测:个人 Agent 将取代操作系统,按需生成 UI — evielync · 2026-10-26
- k7agar:编码 Agent 会把一切比特造物改造成 Linux 式可定制工具 — k7agar · 2026-10-26