PlisSergey 将讲「架构化可解释性」:让脑动力学模型自带可检验表征
PlisSergey · x · 2026-10-28
Sergey Plis 将于 11 月 10 日在数学与创新研究所(IMSI)做报告「Message in a bottleneck: architected interpretability for brain dynamics」。
核心问题:深度学习能仅凭神经影像预测诊断类别,但预测准确不等于解释了大脑过程。他提出「架构化可解释性」(ArchInterp)作为对显著性分析与机制可解释性的补充:在编码器与解码器之间设置结构化瓶颈,强制预测所需信息通过一个可检视、可约束的表征——在功能神经影像工作中,这个瓶颈是一张表示脑区间交互的图。
要点:
- 强制模型使用该图,把预测性能与学到的交互绑定,但图的边是否有生物学意义、能否作因果解释仍需单独论证
- 报告还将讨论 ArchInterp 的最新进展如何为构建因果可解释的功能神经影像模型铺路
- 关联活动:IMSI「From Connectomics to Brain Dynamics」研讨会(2026 年 11 月 9-13 日),主题涵盖 ODE 脑网络建模、多模态数据整合与脑动力学实时建模
所属事件:Sergey Plis 将讲架构化可解释性：让脑动态模型自带可检验表征(2 条相关)→
「研究」频道最新
- 研究指出:让人类笑出声仍是 AGI 级难题 — korymath · 2026-10-28
- 十年即兴喜剧数据:早期翻车模型 onstage 反而比现代 AI 更好笑 — korymath · 2026-10-28
- ARPA-H 拨款至多 5200 万美元,约翰·霍普金斯用 AI 解码蛋白质错误折叠 — JosephJacks_ · 2026-10-28
- 微软诊断 AI 登 Science 并开源,再证 Gemini 4 Argon 医疗潜力 — vivnat · 2026-10-28
- Machenta 展示机器人实时反应与自主恢复:纯仿真训练、零实机示范 — Ed__Johns · 2026-10-28
- DeFM 机器人深度优先基础模型：为何锚定深度而非编码器特征 — chris_j_paxton · 2026-10-28