无需反向传播:LLM 智能手写权重构建可解释 Transformer 与脑编码模型
burny_tech · x · 2026-11-21
微软研究院等团队在 arXiv 发布论文,提出「可解释权重空间编程」(iWSP)方法:让 LLM 智能体直接以代码形式编写模型的权重与特征,完全不用梯度训练/反向传播,模仿人类科学家「假设—手工构建—迭代修正」的工作流。
关键点:
- 智能体必须依靠自身先验知识并推理此前多次尝试结果,来设计人类可读的计算结构;LLM 审计确认了手写模型的可解释性。
- 先在算术、情感分类等基准上验证:LLM 智能体能直接「手工」写出紧凑且准确的网络。
- 再应用于视觉、语言、听觉三个模态的神经编码模型:在视觉皮层上预测能力超过传统深度编码模型,同时保留了可解释性。
- 作者包括 Jianfeng Gao、Michael Bonner、Nebojsa Jojic 等。
该方法为「可解释优先」的科学建模提供了新范式,尤其在神经科学中能揭示刺激特征如何驱动脑活动预测。
「编程与Agent」频道最新
- iWSP:LLM 智能体直接写权重构建可解释模型,无需反向传播 — burny_tech · 2026-11-21
- Google Notebook 开放公共预览 API:Agent 可直接写入 PDF 与图片 — tokumin · 2026-11-21
- a16z 合伙人晒 AI 智能家居全栈清单:给 Grok 2 万美元预算自由采购 — Scobleizer · 2026-11-21
- 428K 三值参数零训练模型 codehygiene 上线:11KB 评代码整洁度 — CatAstro_Piyush · 2026-11-21
- MCP 抓取服务器该配几个工具?工具过多或白吃上下文 — Big_Barnacle_2452 · 2026-11-21
- AI 自主渗透测试系统 ARTEX 走红 GitHub,斩获 13.8k Star — AccBalanced · 2026-11-21