万亿参数模型弃用Transformer，架构裂变前夜
imjustnewatai · x · 2026-08-26
近期出现多项摆脱传统Transformer架构限制的突破性研究：
- 基于神经算子的万亿参数模型：完全移除了Transformer架构，利用神经算子学习跨时空的连续物理场，能一次性处理超过5万亿个输入元素并生成完整4D轨迹。
- Pathway的Dragon Hatchling：仅1.5亿参数的微型模型，采用递归潜在推理和赫布记忆机制，通过从演示中更新内部状态，在ARC-AGI-1上达到29.5%的pass@2成绩，且单次任务成本极低。
- Core Automation：由o1/o3和Gemini预训练背后的团队推动，尝试将长视野学习能力元学习直接融入架构，使模型在部署后能持续适应。
所属事件:Anima Anandkumar 创企发布神经算子物理 AI 模型(14 条相关)→
「模型」频道最新
- OpenAI 推 Codex 限额备用金:超额可用 5.6 Luna — kimmonismus · 2026-08-27
- 开源模型反超：Kimi/GLM/Qwen 评分超 GPT-5.5 — solyarisoftware · 2026-08-27
- Sora 全面下线账号:用户被登出且无法重新登录 — Shrapnel_FEH · 2026-08-27
- 社区开源 Claude Mythos 理论复现架构 — Shruti_0810 · 2026-08-27
- Anthropic Opus 5 被吐槽无法理解“简短” — PtrPomorski · 2026-08-27
- 腾讯开源 WeMM-Embedding-9B，多模态嵌入模型登 HF 热榜 — tencent · 2026-08-27