开发者复现 Google 查询扇出研究:扩散模型直接输出向量取代文本扇出
dejanseo · x · 2026-09-24
dejanseo 复现了 Google 最新的 query fanout 研究,并自行训练出可用模型,结论是:若该技术上线,基于文本的 fanout 将被取代。
- 关键点:该研究不是生成中间文本,而是跳过文本生成——用小型扩散模型在向量上训练、直接输出向量,实现语义级文档检索。
- 作者简化流程跳过了 RL,用 Gemma 类教师模型生成高质量正交 fanout 的合成训练数据。
- 训练好的模型已开源:Hugging Face 上的 dejanseo/fanout-diffusion,并附可直接体验的 Space demo,以 embedding 替代文本查询做文档检索(基于 Google 电商 taxonomy fanout 数据)。
- 他用 1-bit 模型架构加自定义 CUDA kernel 跑出了极快速度。若 Google 生产化,搜索后台将变成直接的扇出向量语义检索。
所属事件:开发者复现 Google 查询扇出研究并训练出可用模型(2 条相关)→
「Infra」频道最新
- 曝 AI 芯片创企 DensityAI 拟融资数亿美元，估值 100 亿美元 — steph_palazzolo · 2026-09-25
- 曝 xAI 三个月内点亮 66 万张 GB300，年底 GPU 总量达 144 万 — ns123abc · 2026-09-25
- Epoch AI 图表:同等智能水平 AI 价格持续跳水,降幅超其他技术 — jeff_weinstein · 2026-09-25
- 多智能体通信催生新基建:Agent 间的「全局总线」会是下一个原语 — madhavsinghal_ · 2026-09-25
- 投资人预言：3-5 年内芯片到 PCB 设计将融合成一条连续流 — ai · 2026-09-25
- 高通 2nm 骁龙8至尊版发布：CPU 首破 5GHz，全线为智能体重写架构 — 量子位 · 2026-09-25