研究者称扩散模型自编码器有损，训练数据低频信息早已丢失

开源社区知名研究者 kalomaze 针对「模型训练数据能否从权重中恢复」的讨论提出技术论点：SOTA 潜空间扩散模型都会先学习一个自编码器以降低计算成本，但该自编码器实际是有损分词器，信息在编码为瓶颈 latent 时就已经丢失。他引用一项检查了 120 个生成视频的观察作为佐证——模型不会生成低频的飞机多普勒效应音，说明某些低频信息在训练阶段就未能保留。

2026-11-04 ~ 2026-11-04 · 2 条相关