400 万参数像素 Transformer 花 10 美元学会小型物理游戏
mathemagic1an · x · 2026-07-29
作者先搭了一个很简单的物理模拟环境：有碰撞、墙反弹，还有一个可得分的目标，然后训练一个像素 Transformer 去预测下一帧。
- 模型规模约 400 万参数。
- 训练成本大约 10 美元。
- 在这么小的预算下，效果却相当不错。
- 作者还展示了一些“幻觉样本”，用来说明模型学到的是某种结构化规律，而不是简单像素复制。
所属事件:4M参数像素Transformer涌现物理世界模型(10 条相关)→
「研究」频道最新
- 清华 AI 学院助理教授陈永创 ApexIntelligence，天使轮融 5000 万美元 — DeryaTR_ · 2026-10-16
- 流体不是在「计算」，而是贡献计算中的非线性步骤 — anderssandberg · 2026-10-16
- Sandberg 解析流体计算误差预算：误差随时间二次收紧 — anderssandberg · 2026-10-16
- 流体如何算通用图灵机：力场驱动粒子落入 0/1 盒子 — anderssandberg · 2026-10-16
- FlashAttention 作者 Tri Dao 加入生物 AI 公司任科学顾问 — exnx · 2026-10-16
- SAIR 推出 Open Math OS:免费算力+100 工具,要让社区掌控数学 AI — Thom_Wolf · 2026-10-16