归因图88节点解释一次加法,忠实度得分仅约50%
JacobHHilton · x · 2026-10-17
Jacob Hilton 延续其对可解释性现状的批评:Anthropic 论文中衡量归因图忠实度的 graph completeness 指标显示,在 88 个节点的图上典型得分只有约 50%(Figure 32)。他追问:如果这已经是"更干净的一半",剩下的内部计算究竟是什么样子?他还说明自己用 LLM 给图加了悬停标签,以便导出为纯图片查看,因为官方提供的子图是手工流程生成、不够规范。
所属事件:ARC 研究员 Jacob Hilton 发起「可解释性是否已解决」大讨论(22 条相关)→
「研究」频道最新
- 纯 Rust 视觉定位库 visloc-rs:SfM 比 COLMAP 快 3.46 倍 — rsasaki0109 · 2026-10-17
- AgentForesight:7B 在线审计员实时拦截多智能体失误 — jiqizhixin · 2026-10-17
- ORL 让扩散语言模型单卡 RTX 5090 跑出 2788 tokens/s，全开源 — arty_photography · 2026-10-17
- 研究者把 AI agent 扔到虚拟荒岛上，行为开始变得诡异 — UFOsAreAGIs · 2026-10-17
- LeCun 团队推出 AdaJEPA：让世界模型在规划中应对环境变化 — mengyer · 2026-10-17
- 哈佛数学家拉 Claude 攻关杨-米尔斯构造，过程文档已开源 — lvwerra · 2026-10-17