150M 参数 BDH 模型挑战 Transformer：潜空间推理对话 Pathway CEO
bigdata · x · 2026-09-24
The Data Exchange 播客采访 Pathway CEO Zuzanna Stamirowska，探讨「后 Transformer」架构：
- BDH 模型：仅 1.5 亿参数，在潜空间（latent space）中推理而非依赖语言链式思考，可在长时程中维护内部状态，并从经验中持续学习。
- ARC-AGI 表现与推理成本：讨论其在 ARC-AGI 上的结果，以及显著更低的推理成本——主打「每瓦特智能」。
- 持续学习与快速权重：涉及灾难性遗忘、推理时从示例学习等机制。
- 长时程智能体：认为真正的 long-horizon agent 需要与 Transformer 根本不同的架构。
- 部署形态：还谈及企业主权 AI、单机架模型、开放权重与端侧 AI 等话题。
「Infra」频道最新
- Nscale 上市兜售千亿美元积压订单，有人提出做多空配对交易 — menhguin · 2026-09-24
- Oracle 就新墨西哥数据中心发出不可抗力通知,AI 算力链生变 — AIFlow_ML · 2026-09-24
- WSJ：头部五家 2029 前 AI 资本开支将达 4.2 万亿美元，超铁路电信总和 — annbordetsky · 2026-09-24
- stable-diffusion.cpp 纯 C/C++ 推理扩散模型,已支持 Z-Image 与 Wan — leejet · 2026-09-24
- NVIDIA 开源 Model-Optimizer:量化蒸馏剪枝一站式压缩推理模型 — NVIDIA · 2026-09-24
- 30B 模型推理要多少显存?量化后可从 120GB 压到 15GB — ashishllm · 2026-09-24