tufazip 用163M Transformer 压缩10亿字节维基百科,拿下老牌压缩榜第二
adnan_hashmi · x · 2026-11-20
Tufa Labs 的 Tommy He 发布 tufazip,在已有 20 多年历史的 Large Text Compression Benchmark 上排名第二(提交时),是榜单上首个以神经网络作为唯一预测模型的最佳成绩:将 10 亿字节的 Wikipedia 压缩到 105,388,353 字节(105.39 MB),且包含离线训练权重与解码器。
技术要点:
- 最终系统为 12 层、163M 参数的 Transformer,由一个量化后仅 4.33 MB 的 34M 参数离线模型初始化。
- 两个离线训练的层被复制到十二个独立层中,随文件压缩过程继续在线学习;解码器重复同样的学习过程,因此完整模型权重无需传输。
- 文章还从 Legg & Hutter、Chollet 等的智能定义出发,探讨压缩与智能的关系——呼应 Hutter「压缩即智能」的传统命题。
所属事件:Tufa Labs 开源 tufazip:纯神经网络无损压缩跻身老牌榜单第二(5 条相关)→
「Infra」频道最新
- 微软开放 USB4 RDMA:多台迷你 PC 拼内存跑 Qwen3-235B — JFPuget · 2026-11-22
- FT:AI 服务器供应商签约后涨价最高达 45% — nordicinst · 2026-11-22
- World Robotics 2026:中国占全球新装工业机器人 59%,约 35.4 万台 — ingliguori · 2026-11-22
- MLX 经 Vulkan 跑出 124 tok/s,同卡速度反超 CUDA 25% — SumitGup · 2026-11-22
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- Token 经济模型:API 支出四年或增 11.5 倍,但仅 1% 用户能撑起算力账单 — AccBalanced · 2026-11-22