打开"详细归因图":88节点2099条边,只为解释36+59
JacobHHilton · x · 2026-10-17
Jacob Hilton 展示了 Anthropic 可解释性论文中 36+59 计算的"详细归因图"全貌:88 个节点、2099 条边,大量节点缺少可读标签。配图显示从输入 token 经加法特征、查找表特征到输出 95 的庞杂连接。他在惊叹能窥见模型内部的同时,质疑这种复杂度是否真意味着"理解"了模型如何算 36+59。
所属事件:ARC 研究员 Jacob Hilton 发起「可解释性是否已解决」大讨论(22 条相关)→
「研究」频道最新
- 纯 Rust 视觉定位库 visloc-rs:SfM 比 COLMAP 快 3.46 倍 — rsasaki0109 · 2026-10-17
- AgentForesight:7B 在线审计员实时拦截多智能体失误 — jiqizhixin · 2026-10-17
- 研究者把 AI agent 扔到虚拟荒岛上，行为开始变得诡异 — UFOsAreAGIs · 2026-10-17
- LeCun 团队推出 AdaJEPA：让世界模型在规划中应对环境变化 — mengyer · 2026-10-17
- 哈佛数学家拉 Claude 攻关杨-米尔斯构造，过程文档已开源 — lvwerra · 2026-10-17
- 权重魔改易伤生成类评测，MMLU 却基本无恙 — aryaman2020 · 2026-10-17