iWSP:LLM 智能体直接写权重构建可解释模型,无需反向传播
burny_tech · x · 2026-11-21
论文提出 interpretable weight-space programming(iWSP):LLM 智能体不训练梯度,而是直接用代码逐个写出模型权重和特征,靠先验知识和多轮试错手工人可解释的计算,模拟人类科学家的工作流。
要点:
- 在算术、情感分类等基准上,Claude Opus 5.5 等智能体能写出 100% 隐藏准确率的紧凑模型;算法任务往往直接把已知算法(如减法欧几里得 GCD)翻译成 transformer;NLP 任务则用粗糙但可读的规则(如否定词翻转情感)实现,成绩较弱。
- 用 LLM 审计验证可解释性:让一个智能体用 ≤200 词描述模型,另一个全新会话的智能体仅凭描述重建模型,性能几乎一致。
- 应用于脑编码模型:在视觉皮层上超越现有多可解释基线,揭示早期/高级视觉区不同计算;在语言 fMRI 中发现数据混淆因素;在听觉 ECoG 中系统发现可解释的声学特征。
结论:iWSP 是让高预测性能与人类可解释科学发现对齐的通用范式。
「编程与Agent」频道最新
- 无需反向传播:LLM 智能手写权重构建可解释 Transformer 与脑编码模型 — burny_tech · 2026-11-21
- Google Notebook 开放公共预览 API:Agent 可直接写入 PDF 与图片 — tokumin · 2026-11-21
- a16z 合伙人晒 AI 智能家居全栈清单:给 Grok 2 万美元预算自由采购 — Scobleizer · 2026-11-21
- 428K 三值参数零训练模型 codehygiene 上线:11KB 评代码整洁度 — CatAstro_Piyush · 2026-11-21
- MCP 抓取服务器该配几个工具?工具过多或白吃上下文 — Big_Barnacle_2452 · 2026-11-21
- AI 自主渗透测试系统 ARTEX 走红 GitHub,斩获 13.8k Star — AccBalanced · 2026-11-21