ViT 表示如何按任务自适应
y_m_asano · x · 2026-07-19
这条转发了一项关于 **预训练 ViT 表示不应完全静态** 的研究图示。作者想表达的是：同一个模型前向推理再多次，输出本身不会变，但如果能让模型“知道该看什么”，就可以把表示调整到更适合当前任务的属性上。 配图对比了普通 DINOv2 注意力与 SteerViT 在不同属性上的关注差异：例如同一输入里，SteerViT 可以分别把注意力导向“人”“盆栽”等任务相关区域，而不是像静态表示那样固定在某个显著目标上。