Extropic 预告 Z1T-0.1:新训练冲刺 GPT-3 水平
beffjezos · x · 2026-09-05
Extropic 创始人预告 Z1T-0.1 即将发布，并透露 Z1 架构的扩展速度：当前模型「勉强 GPT-2 水平」，团队昨晚出于兴趣开了一个新训练 run，想看能否在周末冲到 GPT-3 水平。他解释 scaling law 数据：在 GPU 上训练同等性能的模型要多花 10-15 倍 flops，因为 GPU 上大量矩阵乘法是空转浪费的，而在 Z1 硬件上不存在这些浪费；达到同等性能所需参数量相同。
「Infra」频道最新
- 风投热议：应押注毛利率 90%+ 的 AI 基础设施公司 — vaibhavbetter · 2026-09-05
- Google 论文:让模型自选上下文,注意力开销降 52% — rohanpaul_ai · 2026-09-05
- Extropic 创始人称千倍能效推理可带来数万亿美元经济影响 — beffjezos · 2026-09-05
- 播客自嘲去 Tahoe「考察 20GW 数据中心」选址引爆热议 — chrisalbon · 2026-09-05
- 投资人争辩算力商品化:卖大宗商品同样造就巨额财富 — abhiadesai · 2026-09-05
- Omnigent 四道防线控 LLM 账单:智能路由+渐进预算防失控 — matei_zaharia · 2026-09-05