ConEx 用概念感知归因生成人类可读的显著性图
Yehonatan Elisha · hf · 2026-10-07
研究者提出 Concept-based Explanations(ConEx),将像素级显著性可视化与基于概念的推理结合,弥合视觉解释方法难以把低层线索关联到语义概念的缺口。
核心做法:
- 自动发现类别相关概念,用概念激活向量(CAV)表示,通过架构特定的掩码机制在无人工监督下学习,并降低分割掩码引入的噪声以提升概念纯度。
- 生成忠实的显著性图,同时显示每个概念在图像中的位置及其对预测的贡献。
- 提出两个互补指标 VCM(向量-概念匹配)与 CCM(概念-类别匹配),量化概念对齐程度并支持与现有方法直接比较。
在忠实度、分割和概念质量等多类基准上达到 SOTA,推动视觉模型向真正可解释、概念可验证的方向发展。
「研究」频道最新
- OpenAI 新数学仓库或夯实磁等离子体研究,候选成果瞄准 Vlasov-Maxwell 方程 — johnseach · 2026-10-07
- 数学外包给 OpenAI 后，经济学研究格局将如何重排 — RexDouglass · 2026-10-07
- 格拉茨理工与华为推出神经发射场，实时渲染复杂光源 — ssh4net · 2026-10-07
- Hopfield 网络新论文解析记忆如何涌现为层级抽象 — ceciletamura · 2026-10-07
- 研究：12 个 LLM Agent 集体偏心 Booking.com,信源可压过商品质量 — rohanpaul_ai · 2026-10-07
- Menlo Research 开源 Asimov 1 人形机器人步态策略与训练代码 — freelerobot · 2026-10-07