Extropic 预告 Z1T-0.1:新训练冲刺 GPT-3 水平
beffjezos · x · 2026-09-05
Extropic 创始人预告 Z1T-0.1 即将发布,并透露 Z1 架构的扩展速度:当前模型「勉强 GPT-2 水平」,团队昨晚出于兴趣开了一个新训练 run,想看能否在周末冲到 GPT-3 水平。他解释 scaling law 数据:在 GPU 上训练同等性能的模型要多花 10-15 倍 flops,因为 GPU 上大量矩阵乘法是空转浪费的,而在 Z1 硬件上不存在这些浪费;达到同等性能所需参数量相同。
「Infra」频道最新
- 欧洲博士生可随需使用 B200,美国同行要靠数据创业公司养项目 — HildeKuehne · 2026-10-23
- 英伟达柏林 GTC:人形机器人与 Vera Rubin 超算成主角 — emmanuelvivier · 2026-10-23
- 联想 AI Library 新增 5 个用例,宣称一周部署、成本降 70% — shashib · 2026-10-23
- kernel 全面跑赢 cuBLAS 不重要,快速迭代调优才是关键 — blelbach · 2026-10-23
- llama.cpp 团队发布 Llama:Mac 菜单栏一键本地跑 AI 模型 — Hugging Face · 2026-10-23
- 中国日均 Token 消耗达 500 万亿,均价一年从 6.8 元涨至 13.46 元 — teortaxesTex · 2026-10-23