Tufa Labs 用纯神经网络把 1GB 维基百科无损压到 105.39MB
philipvollet · x · 2026-11-19
Tufa Labs 发布 tufazip,在运行 20 多年的 Large Text Compression Benchmark 上拿下榜单第二名,且是榜单上唯一以神经网络作为唯一预测器的条目——排名更高的条目都是 transformer 与手工模型的混合方案。最终结果:将 10 亿字节的维基百科无损压缩至 105,388,353 字节(105.39 MB),且把离线训练的模型权重和解码器开销都计算在内。
技术要点:
- 系统核心是一个 12 层、163M 参数的 Transformer,由一个 34M 参数的离线模型初始化,量化后仅 4.33 MB
- 离线训练好的两层被复制到 12 个独立层中,随文件压缩过程持续在线学习
- 解码器重复同样的学习过程,因此完整的模型权重无需传输——压缩本身就是学习过程
这一结果延续了「压缩即智能」的研究脉络:作者从 Legg & Hutter 的通用智能定义和 Chollet 的技能获取效率视角讨论了压缩与智能的关系。
所属事件:Tufa Labs 开源 tufazip:纯神经网络无损压缩跻身老牌榜单第二(5 条相关)→
「研究」频道最新
- 土耳其数学家借 AI 证明黎曼假设?被嘲「有机土耳其人」 — CatAstro_Piyush · 2026-11-22
- Burkov 推出《百页语言模型书》:PyTorch 手把手从零构建 LLM — burkov · 2026-11-22
- 生成式 AI 进心脏病学:Dagstuhl 跨学科研讨会落幕 — StephanMandt · 2026-11-22
- SubRoformer 用 DSP 子带滤波器刷新音乐源分离 SOTA — affige_yang · 2026-11-22
- Emily Riehl 推出 Lean 证明入门游戏,用交互方式教依赖类型论 — abhi9u · 2026-11-22
- Android 移动 Agent 评测论文清单:从 AppAgent 到 AndroidReality — East-Muffin-6472 · 2026-11-22