dRAE 将视觉离散化扩到 13.1 万 token，避免 codebook 崩塌
burny_tech · x · 2026-07-28
这篇论文提出了 dRAE：一种基于 超球面量化（Hyper-Spherical Quantization） 的离散表示自编码器，用角度路由替代传统欧式距离式 codebook 量化。
作者认为，传统方法容易出现 codebook collapse，根源是量化目标和视觉表示空间的几何结构不匹配；而 dRAE 把语义内容和特征幅度解耦，能更稳定地离散高维视觉表征。摘要称，该方法把词表规模扩展到 131,072 tokens，实现 100% codebook utilization，同时在重建、多模态理解和图像生成任务上都有提升。
所属事件:dRAE 提出超球面量化将视觉离散化扩至 13 万(2 条相关)→
「多模态」频道最新
- Seedance 2.5 实测:用角色参考图+长 prompt 生成 30 秒游客手持一镜到底 — techhalla · 2026-10-16
- AI 生成的「新家」:废墟城堡里烧烤喝酒,thread 汇总 Magnific+Seedance 全套 prompt — techhalla · 2026-10-16
- 烟雾丝绒黑色电影风提示词模板,附三张氛围感示例 — LudovicCreator · 2026-10-16
- VideoGen-Agent:基于 Qwen3-VL 的 8B 多模态 Agent 用工具循环改写视频生成 — jiqizhixin · 2026-10-16
- 用 Sonnet 5.5 + Blender 做出水上飞机模拟项目，效果惊艳 — Wise_Shame_2853 · 2026-10-16
- 网友实测 Muse AI 自动打标 300 张图生成 LoRA 数据集 — Wide_Director_8897 · 2026-10-16