nanoGPTJAX 作者预告大改版:拆分硬件内核、瞄准 NVFP4
A_K_Nain · x · 2026-11-08
AKNain 宣布将在未来几周对开源项目 nanoGPTJAX(JAX 版 modded-nanogpt 复现)做多项改动:方向从单纯展示 JAX 的扩展能力转向更广泛的 scaling 展示;计划把代码库按硬件拆分为专用 kernel;并想做 NVFP4(4-bit 浮点)用例的展示,但坦言在 Blackwell 硬件上很难拿到资源,会想办法解决。
所属事件:nanoGPTJAX 预告大改版:拆分硬件内核并瞄准 NVFP4(2 条相关)→
「Infra」频道最新
- 端侧 AI 2026 全景:119 家公司 14 层,Mistral 估值超 210 亿欧元 — FinanceYF5 · 2026-11-08
- 缓存感知路由实测:共享前缀流量首 token 延迟从 6.88s 降至 0.31s — shoumikgoswami · 2026-11-08
- 卡林顿级太阳风暴或摧毁多数太空数据中心,存活率恐不足 50% — johnseach · 2026-11-08
- tszzl 呼吁全面对华禁售芯片、云训练与制造设备 — tszzl · 2026-11-08
- Zyphra 发布 ZHA 树状稀疏注意力,35B 模型只查 1-6% KV 缓存 — burny_tech · 2026-11-08
- llama.cpp 合并新 PR:MoE 未命中专家可直接在 CPU 上跑 — QuixiAI · 2026-11-08