新论文:上下文学习在语言、基因组、蛋白质等六种模态中普遍涌现
DanielKhashabi · x · 2026-09-17
Daniel Khashabi 团队新论文检验「上下文学习(ICL)是否为语言模型特有」,在语言、基因组、蛋白质、整数序列、时间序列和图像六类数据上训练模型执行相同的抽象任务:
- 少样本 ICL 在全部六种模态中都出现
- 更惊人的是,五种模态中相同任务在 in-context 学习中的难易趋势一致,尽管各模态能力各有强弱
- 作者提出「趋同涌现假说」(Convergent Emergence Hypothesis):ICL 可从多种结构化数据上的下一 token 预测中涌现,存在超越模态的共享内核
论文由 Nate Schlueter 等主导完成。
所属事件:JHU 研究：上下文学习在六种模态中普遍涌现(4 条相关)→
「研究」频道最新
- David Chalmers 新论文引用其研究,作者直呼意外 — JacquesThibs · 2026-09-17
- 英矽智能推出「长寿疫苗」:AI 加环状 mRNA 清除衰老免疫细胞 — rand_longevity · 2026-09-17
- NVIDIA 推出 Axolotl3D:多模态遮挡感知的 3D 补全模型 — NVIDIAAI · 2026-09-17
- alphaXiv上线「LeCun数」：查你与图灵奖得主隔几篇论文 — burny_tech · 2026-09-17
- Gensyn 发布 open-1b：首个可审计可复现的基础模型 — flngr · 2026-09-17
- Looped Transformer 解锁循环深度：不加参数不加思维链也能更强推理 — gordic_aleksa · 2026-09-17