剑桥等机构论文揭露图软提示的 token collapse 病态行为
Sapienza · hf · 2026-10-27
罗马第一大学、剑桥、比萨大学与 ISTI-CNR 的论文对 G-Retriever 一类「图软提示」方法做了深入分析,提出 token collapse 问题。
- 图软提示让 GNN 学习图特定的 token 注入 LLM prompt,以传递实体间关系结构
- 作者发现:跨 3 个 benchmark、3 种图编码器、2 个 LLM 家族(含 frozen 与 LoRA 微调),学到的图 token 几乎不可区分,退化为通用 prompt,并未真正携带关系信息
- 结论:这类方法评测不能只看准确率,应加入 alignment probe 检查图 token 是否真的编码了结构
「研究」频道最新
- Qwen3.8-Flash-Next 开源 180B 权重,被视为后门研究理想样本 — jd_pressman · 2026-10-27
- Latent-Foresight:让世界模型学着预判自己的未来 — abursuc · 2026-10-27
- 英国 AISI 发文:现有手段不足以防生物 AI 工具被滥用 — davidmanheim · 2026-10-27
- CMU 发布 XYBench:LLM 只答字面问题,常无视用户真实需求 — valentina__py · 2026-10-27
- arXiv 前主席提示:投稿主分类选错,论文几乎必被搁置 — tdietterich · 2026-10-27
- arXiv 积压超 4000 篇论文被搁置,版主致歉并给出避坑建议 — tdietterich · 2026-10-27