90页综述：统计估计正被上下文吸收，统一视角看基础模型
anshulkundaje · x · 2026-11-03
- 研究者发布一篇 90 页综述，提出用「上下文自适应推断」（context-adaptive inference）统一视角，把统计学与基础模型联系起来。
- 核心主张：统计估计正被「吸收进上下文」——传统统计里的变系数模型、局部/核平滑、层次多任务共享，与元学习的双层训练、MAML/适配器快速任务适应、超网络生成任务参数，以及基础模型的提示推断/上下文学习（ICL）、提示诱导特征上的线性读出、检索与工具调用，本质上是同一件事。
- 统一框架：上下文 → 参数，通过支撑集、相似性与结构传递信息；共享调节旋钮为上下文信息、归纳偏置与算力。
「研究」频道最新
- 用 Codex+Astra 直接改权重：鸟类声音分类器准确率 84.3% 提至 88.75% — dansitu · 2026-11-03
- 手持夹爪+SLAM 采集数据:详解催生多家机器人创业公司的 UMI 方法 — gabriberton · 2026-11-03
- TSFLab：面向时序预测研究的自改进 Agent 工作台开源 — D2I-Group · 2026-11-03
- YC 团队发布 QA-Bench:AI 找 Bug 能力比 Codex 多 2.7 倍 — ycombinator · 2026-11-03
- EDU-Jev 教育决策模型 4B 达 67.6%,超最强商业 API 9.4 分 — kalyan_kpl · 2026-11-03
- 本周必读论文:长程持续学习、世界模型回溯、视频记忆消融等 — TheTuringPost · 2026-11-03