Prism 能力提取新进展：从 Qwen 27B 抽出专家模型，内存不到 20%、性能持平
tokenbender · x · 2026-11-11
tokenbender 更新其 Prism：语言模型能力提取 研究进展，方向是让一个大模型按帕累托原则拆出「单一能力」的专家单独部署，大幅降本：
- 早期可复现预print已发布，核心问题是：能否只隔离并部署少数关键能力，在保留大部分性能的同时砍掉巨额成本。
- 10 月 13 日最新进展显示已成功隔离能力并做到高性能、低内存：从 Qwen 3.8 27B 抽取的 agentic 专家，运行时内存不到全精度权重的 20%。
- 配图基准对比：Function calling（Qwen3-8B 专家 66.5% vs 大模型 66.2%，达 100.4%）、Terminal-Bench 2.1 77.8% vs 74.7%（104.1%）、AIME 2025 96.67% vs 99.17%（97.5%）、RedactionBench 102.5%。
- 全部结果基于推理层归因的 mask 提取，无需后训练；代码即将开源。
「Infra」频道最新
- SpaceX 锁定 100GW 太阳能电池产能，为 Starmind AI 卫星建厂 — ns123abc · 2026-11-11
- CoreWeave 升级为 CNCF 铂金会员，云平台全面构建在 Kubernetes 上 — altryne · 2026-11-11
- SpaceX 携手高通建 AI 原生基站,欲做首家 AI 电信运营商 — elonmusk · 2026-11-11
- 苹果曝新应用 Harbor：多台 Mac 雷电5组集群跑本地 AI 推理 — BenBajarin · 2026-11-11
- Agent Arena 实测:任务越难 Gemini 4 Carbon 成本优势越大 — rseroter · 2026-11-11
- Chips and Cheese 深析 AMD Zen 6:分支误预测代价显著降低,整数调度回归 Zen 3/4 布局 — jedisct1 · 2026-11-11