Marin开源23万亿token预训练数据,可公开下载
joecole · x · 2026-08-22
斯坦福的Marin模型预训练数据现已公开,包含约23万亿token,可通过S3存储桶下载。该数据集的组成、架构、基础设施和内核细节均在GitHub上公开,训练过程可在wandb上实时观看。Marin团队表示,这次运行是数据、架构、基础设施和内核协同合作的成果。
所属事件:斯坦福 Marin 启动 535B 模型全透明训练并开源 23T token 数据(7 条相关)→
「Infra」频道最新
- 旧金山办「算力交易大厅」:买家卖家面对面签算力协议 — ctjlewis · 2026-10-16
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性:衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者:芯片供应链高度集中,硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16