权重绑定的循环 Transformer 或成高质量本地模型新方向
gharik · x · 2026-10-11
前 OpenAI 研究员 George Hotz(gharik)发推提出:权重绑定(tied weights)的循环 transformer(looped transformers)可能非常适合做本地模型和助手。这条短评点出了一种值得关注的小模型架构思路。
「研究」频道最新
- 13行证明Catalan常数无理性，OpenAI形式化证明争议实为社区惯例误解 — ctjlewis · 2026-10-11
- Ramez 与 Sayashk 辩 ASI:可验证领域必超人类,通用 ASI 并非必然 — sudoraohacker · 2026-10-11
- 移植前沿基准 Agents' Last Exam 后,作者发现大量数据缺陷 — dejavucoder · 2026-10-11
- Hugging Face 把 OpenAI 数学题做成开源 RL 环境,Lean4 沙箱自动判分 — _lewtun · 2026-10-11
- Agent 蜂群自动推进数学研究,一夜之间把整数乘法指数再压低 — iskander · 2026-10-11
- Data-Space Iteration：无需时间步离散化的少步图像生成新框架 — kastnerkyle · 2026-10-11