CompressionBench:让编码 Agent 自主压缩 LLM,36 次提交 29 次通过验证
BeidiChen · x · 2026-11-07
Infini-AI Lab 与 CMU 等发布 CompressionBench(arXiv:2611.06858),研究编码 Agent 能否自主完成 LLM 压缩——直面算力与显存双重瓶颈(HBM/DRAM 短缺、数据中心电力受阻)。
任务设定:Agent 拿到源 checkpoint、存储上限、推理环境与时间预算,自行决定压缩算法并做实验,以困惑度反馈引导搜索,最终由独立验证检验。
关键结果:
- 6 个 Agent × 6 组模型规模,36 次提交中 29 次通过验证
- 每任务选最优 Agent 设计:平均困惑度较 BF16 仅升 3.4%,下游准确率 77.33%(BF16 为 79.56%)
- 24 次修订中 21 次在几乎不变存储的情况下降低了 PPL;完整模型反馈推翻了 79 次局部排名中的 17 次
- 结论:表征设计、实验判断与能力验证是 Agent 驱动压缩的核心
「编程与Agent」频道最新
- 亚马逊开始封锁家庭 IP 的个人 AI Agent 购物流量 — unixterminal · 2026-11-07
- Claude Duet 新增 Claude Code 会话：手机上远程审批与跟进 — lydiahallie · 2026-11-07
- 单卡 2 小时训练 4B「小决策模型」,agent 决策准确率 86.5% 超 Jev 1.13 — ivan_bezdomny · 2026-11-07
- 一张图讲清构建 AI 应用的三种架构：单 Agent、Agent 团队与图工作流 — rseroter · 2026-11-07
- 60 秒拉起一万个 agent 玩 Minecraft，跑在 200 台 48 核机器上 — KlausCodes · 2026-11-07
- Bend 2 生态周报仓库上线：已有 1036 个包、支持哈希精确引用 — SubtleGradient · 2026-11-07