新研究提出「自动权重空间编程」:模型学会对自身神经元做 logit lens
udmrzn · x · 2026-11-16
Atharva Naik、Emmy Liu 与 Varun Gangal 在 alphaXiv 发布博客《Auto Weight-Space Programming(Part 1)》,正式定义了「权重空间编程」——直接以数字形式读取或写入模型权重——并提出 auto-WSP 目标:让模型对自己执行这一操作。
首个玩具实验:Qwen3.5-4B 学会对自己未见过的 128 维神经元切片应用 logit lens,在四分类测试中达到 99.8% 准确率(随机水平 25%)。直接说出 token、写入权重、追踪电路、预测行为被列为后续步骤。
所属事件:研究者提出权重空间编程助力大模型自检与持续学习(4 条相关)→
「研究」频道最新
- AI/ML 流体力学课程第二期开课:60 小时直播,学费 500 美元 — ricardovinuesa · 2026-11-16
- 千个 agent 手写 5000 版纯 Python 规则聊天机器人,胜过 3.6 亿参数 LLM — LoubnaBenAllal1 · 2026-11-16
- 研究员断言「为顶会刷论文」已死,转向 GitHub 公开产出 — DimitrisPapail · 2026-11-16
- DeepMind 研究员谈 AI 时代科研路径:降低做酷工作的摩擦 — DimitrisPapail · 2026-11-16
- Google AI Co-Scientist 进展亮相 MLCB 2026,Brenner 主持直播 — anshulkundaje · 2026-11-16
- 预训练蒸馏加一点输入噪声反而更优,新论文实测增益显著 — DimitrisPapail · 2026-11-16