EPFL 论文:语言模型直接写出神经网络权重,免梯度下降
IgorCarron · x · 2026-11-17
EPFL 团队在 arXiv 论文《Mixed Signals: Weight-Space Programming for EEG and ECG》中展示「权重空间编程」:让前沿语言模型直接读取并编辑已训练网络的权重,甚至仅凭架构、任务和极少量受试者数据从零写出全部权重。
关键结果:
- 一组实验中,语言模型仅靠推理、不用任何梯度下降,就用少 6 倍的训练受试者达到了标准梯度下降训练的效果;
- Claude Opus 5.5 写出的网络在同样 5 名受试者数据下,成绩超过经典手工 EEG 流程(alpha 频段功率 + CSP+LDA);
- 模型还能在不知情的情况下定位并修复植入生物信号模型的故障。
作者也指出局限:语言模型难以改进已充分训练的分类模型,也无法仅从权重可靠识别网络训练的任务。结论是「训练正在变成思考」,对数据稀缺的生物信号建模尤其有意义。
「研究」频道最新
- AnisoFlow:可学习的各向异性流模型目标,ImageNet FID 1.90降至1.55 — GordonWetzstein · 2026-11-17
- 微软iWSP:让Claude直接写权重,166参数实现算法任务 — dair_ai · 2026-11-17
- NVIDIA SC26 推 Nemotron for Science:微调模型量子点合成准确率超 GPT-6 — ryanshrout · 2026-11-17
- PNAS 实验:大 V 转发论文使求职者面试邀约增 20%、offer 增 30% — alejandroll10 · 2026-11-17
- 多伦多大学助理教授创办 Jinesis AI Lab,获数百万美元资助招博士生与协作者 — ZhijingJin · 2026-11-17
- 独立开发者耗时一年构建本地 AI 系统 Aura,发布 73 页架构研究 — bryany97 · 2026-11-17