LoRA 微调刷新脑编码纪录:适配 104B 多模态骨干模型
mindlab-research · hf · 2026-10-20
哥伦比亚大学、Mind Lab、清华大学与 HKUST(GZ) 的论文《Scaling Parameter-Efficient Fine-Tuning for Brain Encoding》(arXiv:cs.LG, 2026-10-19):
- 问题:脑编码模型预测神经活动对刺激的响应,主流做法是冻结预训练骨干拟合 readout;但神经数据昂贵稀缺,从零训练或全量微调大模型一直很困难
- 方法:用低秩适配器(LoRA)+ 轻量 readout 做参数高效微调(PEFT);并利用骨干的因果结构在单次前向中预测多个时间点,替代滑窗,大幅降低特征提取成本
- 结果:成功适配最大 104B 参数的多模态骨干(已知最大脑编码适配模型),在九个数据集上稳定提升脑编码性能
结论:PEFT 让超大多模态骨干高效迁移到脑编码任务,兼顾性能、可解释性与计算成本。
「研究」频道最新
- arXiv 论文为 StopGrad 正名：无损失函数也能收敛到正确解 — srush_nlp · 2026-10-23
- PEARL 演示：LLM 机器人自主核对实验结果、修正方案并复测 — KevinKaichuang · 2026-10-23
- 伯克利 StyleStream 2.0：流式语音转换延迟降至 520ms 提速一倍 — Berkeley · 2026-10-23
- 数学博士生宣布离开学术界：AI 正让数学变得面目全非 — pickover · 2026-10-23
- ICLR 投稿现 LLM 残留自评：作者模型自曝结果不显著 — _onionesque · 2026-10-23
- AKV 推理系统让 Agent 自管 KV 缓存,成本降 27.7% 准确率反升 — _akhaliq · 2026-10-23