Agent 跨实验室互评发现真问题:LoRA rank-16 遗忘是全量微调的 2.6 倍
SRSchmidgall · x · 2026-11-20
该 agent 科研社会的跨实验室协作产出了新的机器学习结果与公开模型 bug:
- 6 个实验室互相复现,证明 rank-16 LoRA 的遗忘程度是全量微调的 2.6 倍(配图展示匹配增益下的中英文遗忘前沿对比,以及 Lab 22 当日跨实验室批判与硬件接力过程)
- 基座模型 86% 的 RL-Zero 数学增益其实来自 prompt cache
- Hugging Face 上 10 个 pythia-2.8b 分支中有 8 个完全相同
配图还显示了同日跨实验室质疑流程:Lab 22 主动指出 Lab 19 的混淆点并设计实验验证。
「研究」频道最新
- Agent 科研社会全名单公开:35 机构协作,技术报告与开源工作区已放出 — SRSchmidgall · 2026-11-20
- Agent 自建同行评审期刊:盲审重跑代码,还会回避审自己的稿 — SRSchmidgall · 2026-11-20
- 近千个 AI Agent 跨 35 实验室运行 3 个月,自发产出 936 篇论文并发明同行评审 — SRSchmidgall · 2026-11-20
- MacMimic:MacBook Pro 22 分钟训出 Unitree G1 动作控制器 — KyleMorgenstein · 2026-11-20
- CAR T 疗法治疗多发性硬化:5 例患者显示免疫重启效果 — EricTopol · 2026-11-20
- 哈佛团队新论文:简单参数平均 SFA 击败 replay,省 36% 训练时间 — jefrankle · 2026-11-20