MIT CSAIL「模型手改权重」论文遭第三方审计:核心结果成立但存疑点
kevrussell · x · 2026-11-04
MIT CSAIL 发布论文《Sparks of Weight-Space Programming》:让 GPT-6 Astra 读取原始权重并手工编辑另一个模型(如 Qwen3.5-0.8B)的权重,使其数学能力大幅提升,共 8 组实验。独立研究机构 Honesty.Tools 对其公开的编辑记录、评测日志做了审计:
- 头条结果经核查成立,作者公开了全部编辑、评测记录与日志,可验证性很高
- 但「模型是否真的读懂了权重」尚无定论:作者 kevrussell 补充的 car test 实验(预注册、Opus 每臂 5 次回复、Astra 3 次)未能证明模型在读取权重,且审计方在自己的首批实验中发现并修复了一个数据泄漏
- 清洁重跑结果与植入 bug 实验仍在进行中
这篇审计的价值在于区分了「结果可复现」与「机制可解释」,作者团队开放数据的做法值得肯定。
「研究」频道最新
- 开发者用小 LoRA 适配器超越 DNA 模型 Carbon-X，直指专用小模型泛化短板 — danielmckinn0n · 2026-11-04
- QuickProof：会写单元测试就能形式化验证 C 代码，AI 写证明 Rocq 校验 — thomasahle · 2026-11-04
- RSNA 2026 深度学习实验室开设医学影像 VLM 数据集构建课程 — PRouzrokh · 2026-11-04
- 医学影像 VLM 数据集构建课程细节：EHR 选列、去标识、质控全流程 — PRouzrokh · 2026-11-04
- OpenAI 研究：安全评测成绩反而低于生产环境，评测目标认知是关键 — kaicathyc · 2026-11-04
- 字节 Seed 发布 Recycler：隐藏状态回收实现近乎零成本潜推理 — JohnCLangford · 2026-11-04