万亿参数模型弃用Transformer，架构裂变前夜
imjustnewatai · x · 2026-08-26
近期出现多项摆脱传统Transformer架构限制的突破性研究：
- 基于神经算子的万亿参数模型：完全移除了Transformer架构，利用神经算子学习跨时空的连续物理场，能一次性处理超过5万亿个输入元素并生成完整4D轨迹。
- Pathway的Dragon Hatchling：仅1.5亿参数的微型模型，采用递归潜在推理和赫布记忆机制，通过从演示中更新内部状态，在ARC-AGI-1上达到29.5%的pass@2成绩，且单次任务成本极低。
- Core Automation：由o1/o3和Gemini预训练背后的团队推动，尝试将长视野学习能力元学习直接融入架构，使模型在部署后能持续适应。
所属事件:前 NVIDIA 科学家创企发布神经算子物理 AI 模型(13 条相关)→
「模型」频道最新
- ModeBench 揭示 RLVR 让 LLM 只会一种解法，Re:Max 训练法可保解法多样性 — manoelribeiro · 2026-10-15
- 开源推理引擎 Magnitude 让本地模型比 Ollama 快 2 倍以上 — nickbaumann_ · 2026-10-15
- 博主实测疑似新模型 Gemini 4 Argon：逐笔实时生成 — vista8 · 2026-10-15
- 游戏开发实测：Gemini 4 Argon 对阵 Claude Opus 5.5 — vitaliychiley · 2026-10-15
- Anthropic 系统提示词新措辞:认真对待 Claude 表达的不同意见 — Hesamation · 2026-10-15
- 为什么有人对 GPT-4o 恋恋不舍：它最懂你的潜意识 — mimi10v3 · 2026-10-15