dRAE 将视觉离散化扩到 13.1 万 token，避免 codebook 崩塌

burny_tech · x · 2026-07-28

这篇论文提出了 dRAE：一种基于超球面量化（Hyper-Spherical Quantization）的离散表示自编码器，用角度路由替代传统欧式距离式 codebook 量化。

作者认为，传统方法容易出现 codebook collapse，根源是量化目标和视觉表示空间的几何结构不匹配；而 dRAE 把语义内容和特征幅度解耦，能更稳定地离散高维视觉表征。摘要称，该方法把词表规模扩展到 131,072 tokens，实现 100% codebook utilization，同时在重建、多模态理解和图像生成任务上都有提升。