Spacy 創始人 Honnibal 批評 LLM 權重讀寫研究摘要:各實驗方法並不相同
honnibal · x · 2026-11-03
Explosion(spacy)創始人 Matthew Honnibal 撰文指出,如今的 AI 研究摘要像「舞台魔術」——讀者默認所有實驗用同一方法完成,實際上每個結果的手段各不相同。
他以一篇宣稱「LLM 可原生讀寫神經網路權重」的摘要為例:摘要稱 GPT-6 Astra 僅看原始權重就能判斷網路被訓練來做什麼、能從零寫出小型遊戲網路、還能修復 Qwen3.5-0.8B 的數學能力(原生編輯 0.016% 的權重,且該案例需要實際運行網路)。讀者自然以為這是同一方法的三項評測,但「僅看原始權重」的限定範圍極窄,只約束第一項結果,後續結果使用了完全不同的手段。
Honnibal 表示按他受訓的學術標準,這種摘要寫法他當審稿人時一定會拒——並自問這是否只是自己過時,但認為這種修辭模式值得警惕。
所属事件:spaCy 创始人撰文拆解 LLM 读写权重研究(2 条相关)→
「漫话AGI」频道最新
- 学术界研究者痛批「AI 安全」工作实为加速大厂的产品工程 — j_foerst · 2026-11-03
- 学界人士质疑：AI 安全工作已成加速大实验室的产品工程 — j_foerst · 2026-11-03
- Alan 的 AGI 倒计时只剩 1%,Reddit 网友热议何时到来 — deles_dota · 2026-11-03
- HCI 研究者警示：AI 正像 TikTok 一样令人成瘾，EMNLP 已现技能退化苗头 — IanArawjo · 2026-11-03
- Claude Code 团队墙上挂着《苦涩的教训》,信条是「永远不要赌模型会输」 — Hesamation · 2026-11-03
- Ben：要让 99% 的人以经济主体身份用 AI，而非对冲基金独享 — LinusEkenstam · 2026-11-03