Hebart团队:模型表征普适性是涌现属性且更贴近人类
Hebart 团队在其论文线程中补充了关于模型表征普适性的一系列结论:普适维度的出现无法用架构、训练数据、训练目标、模型规模或 ImageNet 性能差异来解释,普适性的驱动因素仍有待厘清。
已确认
- 更普适的维度更语义化/概念化,基于分类任务的附加分析印证了这一点,说明倒数第二层的普适性反映高层内容。
- 人类标注实验(视觉、语义、两者兼有或不可解释)显示更普适的维度明显更可解释,可解释性是训练模型普适性的涌现属性。
- 普适性与人类行为数据及猕猴大脑预测能力强相关,普适维度更接近生物视觉。
- 团队展示了反向因果:让模型与人类对齐,其维度会变得更普适。
尚未确认
- 普适性由何因素驱动尚不清楚,现有候选解释(架构、数据、目标、规模、ImageNet 性能)均被排除。
为什么重要
- 该研究回答了模型表征收敛于何种结构、由何因素决定其出现的问题,并提出普适性可作为 AI 与人类对齐程度的指标,未来可用于开发更符合人类表征、更人本的模型。
2026-09-25 ~ 2026-09-25 · 5 条相关
一手来源
- 架构、数据与规模均无法解释视觉模型的普适表征 — martin_hebart ·
- 普适维度越多的模型越像人脑,与人类对齐可反增普适性 — martin_hebart ·
- 普适性可作AI与人类对齐指标,助力开发更人本的模型 — martin_hebart ·
- 人类标注实验:可解释性是模型表征普适性的涌现属性 — martin_hebart · 2026-09-25
- 更多普适维度的模型表征更偏语义概念而非底层视觉 — martin_hebart · 2026-09-25
- 【源头】架构、数据与规模均无法解释视觉模型的普适表征 — martin_hebart · 2026-09-25
- 【源头】普适维度越多的模型越像人脑,与人类对齐可反增普适性 — martin_hebart · 2026-09-25
- 【源头】普适性可作AI与人类对齐指标,助力开发更人本的模型 — martin_hebart · 2026-09-25