KCL 提出可检验跨模型通信的 PLatour 框架，揭示部分收益为假象
KingsCollegeLondon · hf · 2026-11-06
伦敦国王学院与腾讯优图等发布 PACT（Prefill-to-Autoregressive 跨模型迁移）研究：用大模型的 prompt 表示加小模型的高效生成来平衡能力与推理成本。
- 开源 PLatour 框架：通过零初始化的轻量线性桥连接冻结模型，用任务奖励直接训练，支持混合注意力架构，在生成任务上超越开源基线，并用更小的 sender 在数学/编码基准上超过 Mostik 的报告结果。
- 关键发现：受控实验显示部分任务的收益可由无信息信号、自通信或仅训练接收端复现——可训练的桥可能只是参数高效微调机制，并未真正利用 sender 信息。
- 提出 PACT-Check，量化训练后的 PACT 系统收益中有多大比例真正来自通信。
「研究」频道最新
- 99% 准确率可能毫无用处：用欺诈检测讲透召回率与精确率 — Franc0Fernand0 · 2026-11-06
- Joakim Sundnes《Python 科学编程导论》开源教材上架 ChapterPal — burkov · 2026-11-06
- moyix 东京 offensive_con 演讲：Fuzzing 对决 AI 幻灯片与博文发布 — moyix · 2026-11-06
- 误差棒过大:1 倍加速仍在置信区间内,AI 研究提速证据不足 — tobyordoxford · 2026-11-06
- TabClustPFN 登顶 44 个真实数据集聚类基准，预训练取代逐库调参 — jiqizhixin · 2026-11-06
- 注意力机制新解读:本质是单位球面上的球面插值 — mgostIH · 2026-11-06