ViT 压缩至 6MB：54.5 倍瘦身用于端侧作物病害检测
jm_alexia · x · 2026-09-07
arXiv 论文提出统一的 ViT 压缩框架，结合 Hessian 平衡自适应块剪枝（H-BAC）、量化和基于注意力的知识蒸馏，面向资源受限的农业场景端侧部署。
- 压缩后模型从 327.42MB 缩到 6.01MB（54.5 倍），在跨村庄辣椒病害测试上保持 FP32 精度的 95.13%
- 同尺寸 INT8 学生模型直接训练达 94.87%
- 转发者点评：部署收益明显，但蒸馏带来的增益在论文中未被单独证明
「研究」频道最新
- UCLA 论文:扩散精力与接受宽容度双旋钮,拓宽投机解码速度-质量帕累托前沿 — UCLA · 2026-10-26
- 研究:Git 记录难以审计 AI 参与度,科研仓库需可审计溯源系统 — Koutian Wu · 2026-10-26
- 什么是融合版 DeepLIFT:绕开 hook 的梯度改写如何快 7 倍 — jmschreiber91 · 2026-10-26
- 新研究：AI 智能体谈判能力差，还会故意违约 — menhguin · 2026-10-26
- Cherimoya 融合版 DeepLIFT 合入 v0.3.1,同规模模型归因提速约 7 倍 — jmschreiber91 · 2026-10-26
- 生成式生物学基础设施 proto-tools 开源，CATv1 模型接入 — jmschreiber91 · 2026-10-26