Octen-WebGR 把 2 亿网页存进语言模型参数，导航搜索成本仅密集检索 1/40 显存
_reachsumit · x · 2026-10-28
Octen-WebGR 是一个生成式检索框架，把网页索引存进语言模型参数：给定查询，模型生成受约束于真实 URL 表的双 token 语义标识符。其 4B 版本索引了 2.01 亿网页，并在训练后一个月的真实导航流量上评测。
- 对有大量交互历史的页面的未见查询，Octen-WebGR 30.9% 首位命中，同一点击数据训练的密集检索器仅 17.2%（加点击先验 21.4%）；密集检索在冷门页面仍占优，两者在查询侧与页面侧互补。
- 全部导航流量上 top-1 准确率 59.6%，对点击增强密集检索的 46.5%，而前沿 LLM 凭记忆回答仅 37.5% 且单查询成本至少高 40 倍。
- 4B 模型单卡 10GB 显存即可运行，精确密集检索需 412GB。
「Infra」频道最新
- LiquidAI 发布 2B 全模态开源模型，llama.cpp 当天适配 — ilintar · 2026-10-28
- Mojo/MAX 上手手机本地推理，4 天比肩 llama.cpp — Cane_P · 2026-10-28
- 开发者用 EmbeddingGemma 2 搭实时嵌入端点：文本 20ms，全程只跑 MacBook CPU — generativist · 2026-10-28
- Qwen3.8 27B 统计无损量化 GGUF 上架 Hugging Face,作者分析藏付费墙 — Dany0 · 2026-10-28
- Nebius 实测:8 张 GPU 拆成 8 份跑 Cosmos,出片量多 42.5% — shashib · 2026-10-28
- AI 时代数据中心成安全新前线：网络与物理威胁加速融合 — ChuckDBrooks · 2026-10-28