BlockRank：用分块稀疏注意力加速 LLM 文档排序
dejanseo · x · 2026-10-05
dejan.ai 介绍 UT Austin 与 Google 研究者提出的 BlockRank 方法，解决 In-Context Ranking（ICR）的计算瓶颈：LLM 自注意力对输入长度的复杂度为 O(n²)，候选文档一多就慢且贵。
- 核心思路：用结构化稀疏注意力配合对比训练，把文档分块排序以提升 LLM 排序的效率与精度，且不牺牲准确性
- 局限（natzir9 指出）：实验仍是把候选放进 prompt 做 rerank，本质上依然依赖一个检索索引
- 配套讨论：natzir9 联想到 Google 一项专利，通过把模型预测存入索引来应对同一问题
所属事件:BlockRank 分块稀疏注意力加速 LLM 文档排序(2 条相关)→
「研究」频道最新
- KAIST 提出 Pivot-SD：只蒸馏关键去噪决策，200 题超越强化学习基线 — kaist-ai · 2026-10-05
- SBERT2S1：生物医学检索编码器一次前向输出带校准概率的类型化判断 — Pritam Deka · 2026-10-05
- 同一系统测出 51.4 和 75.8,Reddit 质疑 LLM 记忆基准可信度 — Efficient_Joke3384 · 2026-10-05
- 首个大规模连续扩散语言模型 Sigma 发布，3B/8B 媲美自回归 — LucaAmb · 2026-10-05
- UniEvo-VL：多模态模型用自身反馈提升图像生成能力 — StanfordAILab · 2026-10-05
- ELLIS 图宾根研究所招聘 PI：6 年任期、免教学、经费充足 — HildeKuehne · 2026-10-05