Pathway 推 1.5亿参数 BDH 模型:在潜空间推理,挑战 Transformer
bigdata · x · 2026-09-27
Pathway CEO Zuzanna Stamirowska 在 The Data Exchange 播客中阐述「后 Transformer」路线:
- BDH 模型:仅 1.5 亿参数,在潜空间(latent space)而非语言空间推理,在 ARC-AGI 上取得成绩,推理成本大幅降低
- 持续学习:通过 fast weights 从经验中学习、维持长期状态,探讨灾难性遗忘问题
- 核心主张:长时程 agent 可能需要与 Transformer 根本不同的架构,追求更高的「每瓦智能」(intelligence per watt)
- 落地方向:企业级专用模型、单机架部署(one-rack models)、开放权重与端侧 AI
「Infra」频道最新
- Gemma.c:单文件 C 实现 Gemma 1/2/3 多模态推理,纯 CPU 跑 72 tok/s — This-Purchase-3325 · 2026-11-16
- Sarvam 在印度上线 Token Factory 托管开源模型推理 — itsOmSarraf_ · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16