dRAE 提出超球面量化将视觉离散化扩至 13 万
为解决高维视觉表征离散化以对接语言模型的问题,新提出的 dRAE 引入了基于超球面量化的离散表示自编码器。该方法用角度路由替代传统欧式距离,有效克服了表征空间几何不匹配导致的 codebook 崩塌问题,成功将视觉离散化词表大幅扩展至 13.1 万 token。
2026-07-28 ~ 2026-07-28 · 2 条相关
- dRAE 将视觉离散化扩到 13.1 万 token,避免 codebook 崩塌 — burny_tech · 2026-07-28
- dRAE 用超球面编码把视觉离散化扩到 13 万词表 — antgroup · 2026-07-28