十种脚型只标到六种,标准 CBM 把概念全改对仍比 DNN 低约 2 点

Measuring What Matters: Synthetic Benchmarks for Concept Bottleneck Models

Julian Skirzynski, Harry Cheon, Shreyas Kadekodi, Meredith Stewart, Berk Ustun

NeurIPS 2026 (Evaluations and D

cs.LG, cs.AI

2026-06-03

机器人与数独两套合成基准里,概念与规则一致时,干预让 CBM 比 DNN 高 4.0 个点;脚型漏标或概念改为自动标注后,改对概念也追不上,甚至更差。

这篇在解决什么

概念瓶颈模型(CBM)先预测人能核对的概念,再只用概念出标签。皮肤镜里,这就是先看有没有条纹,再给恶性概率。难处在标注:概念有 m 个,成本大约是普通标签的 m 倍。2020 年以来 123 篇 CBM 论文,反复用到 CUB-200、CelebA、CheXpert 等少数数据集。噪声和缺失难测,改对一个概念也常常没有决策上的后果,比如凭微笑预测吸引力。一次失败分不清该怪模型,还是该怪概念集。

生成器按已知规则由概念产生标签,模态、粒度、来源、噪声和缺失都能单独调节。它用来归因,不排名。

方法

决策支持把机器人分成 Glorp 与 Drent。9 个二值部件拼出 7,680 种形体。人核对得了部件,核对不了类别。脚有 10 个亚型。标签用固定打分生成,权重摊在多个部件上;特征全知时上限约 99%。训练只见 6 种脚型,测试见 10 种,40% 的脚型是新的。图像为 32×32。

自动化检查 9×9 数独是否合法。27 个概念覆盖每一行、列、宫是否含 1–9 各一次,标签是逻辑与,错一条就翻转合法盘。合法盘用混合整数规划生成,非法盘只做小幅篡改。画面有印刷题、手写答案和候选数。1,000 张里一半合法。50 像素可读,10 像素难读,规则不动。

Gain 等于干预后准确率减去端到端 DNN。自动化把选择性准确率定在 0.99,没把握就弃权。WorkSaved 等于覆盖率减去被核对的概念比例。干预只改最可能翻转预测的概念,预算为 1 个、3 个或全部。同一套协议比较标准 CBM、CEM(概念嵌入)、ProbCBM(高斯潜变量)、ECBM(联合训练)和 DNN,共 10 个种子。

结果

设置对照结果
机器人,不干预DNN88%
oracle 概念,不干预 → 全部改成真值CBM84.5%±0.3 → 92.0%±0.5,Gain 4.0±0.5 个点
discovered 概念,全部改成真值CBM85.7%±0.4,仍低约 2 个点
数独 50 像素,α=0.99,不干预CBM / DNNWorkSaved 79.8%±5.9 / 2.6%±0.8
数独 10 像素,不干预CBMWorkSaved 58.8%±3.8

oracle 含 7 个概念。不干预时 HasKnees 接近随机,标准 CBM 低于 88% 的 DNN;全部改为真值后,Gain 为 4.0±0.5 个点。

discovered 换成训练见过的 6 种脚型,共 12 个概念。标准 CBM 在每个预算上都显著更低,全改对后 85.7%±0.4,仍低约 2 个点。新脚型正确率 77%,旧脚型 92%;oracle 为 91% 与 93%。CEM、ProbCBM、ECBM 完美干预后也不超过 DNN。CEM 的嵌入含着新脚型,探针准确率 99%;探针只在旧脚型上训练时,只有 30% 到 90%。ProbCBM 把图像嵌入换成「有/无」向量,认不出的概念上两个向量几乎相同。ECBM 去掉概念损失项后高 8 个点。

三套自动概念(CLIP 标注、LLM 撰写、CLIP 单词)上,改成真值后几乎都显著变差,只有 machinelabeled 上的 CEM 例外。按三种预算平均,标准 CBM 最差到 -26.6%,machinelabeled 的完美干预为 -14.7%。用模型自己 0.5 截断后的概念去干预,取值不变,准确率仍掉。泄漏在连续输出里,干预会把它清掉。手标概念上,真值优于这种空干预。

专家与 LLM 的概念准确率都约 80%,收回完美干预增益的比例是 42% 和 11%。LLM 错在最常要改的 HasKnees 上。只对调这一概念,增益互换。

HasKnees 的真权重为负。非负约束把权重打成 0,训练准确率 91.5%,对照 93.0%。约束后、干预前模型更准;全干预只多 1 到 2 个点,无约束约多 8 个点。Fig. 7 中 oracle 为 +7.5%±0.5 对 +0.9%±0.5,discovered 为 +8.1%±0.8 对 +2.2%±0.5。

50 像素、α=0.99、不干预时,CBM 的 WorkSaved 为 79.8%±5.9,CEM 72.5%±9.5,ProbCBM 79.5%±2.6,ECBM 53.1%±11.8,DNN 2.6%±0.8。概念模型把检测和与门分开学,这可能是它们能在 0.99 下出手的原因。弃权盘最多核 3 个概念时省工上升,ProbCBM 与 ECBM 显著。全部核完后,标准 CBM、ProbCBM 和 ECBM 仍有 38% 到 49% 的弃权盘继续弃权,只有 CEM 显著再升。10 像素时,单概念检测只差几个点,至少错一个概念的盘从约四分之一升到一半以上。WorkSaved 降到 CBM 58.8%±3.8、CEM 36.4%±8.6、ProbCBM 39.6%±6.9、ECBM 34.5%±11.1、DNN 4.3%±1.3。没有架构把这块损失全部补回。

为什么重要

标概念之前可以拆开看:概念有没有漏、干预者会不会专错在关键项、任务是不是条条都要成立。常用数据里,这三件事缠在一起。

决策支持中,CBM 高出 DNN 靠干预,前提是概念写进了规则。CLIP 或 LLM 产概念再请人改,在这里会降低准确率。逐条审核文书更像数独,拆成概念后,0.99 门槛下能自动化的比例远高于黑盒;概念多了,检测上差几个点就会变成大片弃权。

局限与存疑

论文承认,基准简化了真实任务,绝对准确率和省工数可能偏高,也只测了一部分机制。分数高不能当成可以上线。

机器人是 32×32 双色图,离皮损和胸片很远。数独的与门没有例外。论文预期文书校验能沿用这个机制,没有报告迁移后还剩多少。ECBM 的标准误达到 ±11.8 个点,省工谁高谁低不稳。干预默认每个概念等价,主表没有贵概念。自动概念一改就掉点的现象在两个真实数据集里出现过,正文未给数字,推不到 CheXpert。

术语

原文与代码

社区讨论

相关论文

全部论文解读