让语言模型直接学原始文档视觉信息
_akhaliq · x · 2026-07-15
这条转发引用了一项关于 **Scalable Visual Pretraining for Language Intelligence** 的研究。 作者提出一种新的 **Visual Pretraining** 预训练范式，目标是让语言模型直接从**原始文档**中学习，而不是先做文本抽取再训练，从而保留文本化过程中会丢失的**视觉信息**。
_akhaliq · x · 2026-07-15
这条转发引用了一项关于 **Scalable Visual Pretraining for Language Intelligence** 的研究。 作者提出一种新的 **Visual Pretraining** 预训练范式，目标是让语言模型直接从**原始文档**中学习，而不是先做文本抽取再训练，从而保留文本化过程中会丢失的**视觉信息**。