380M 小模型每 100 万网页花 19 分钟 5 美元，自动策展 FineWeb 数据
vanstriendaniel · x · 2026-10-29
开发者 Daniel van Strien 训练了一个专门用于网络规模数据策展的决策模型：基于 UltraBERT-380M 微调，体积小、可低成本大规模运行。
- 在 Hugging Face Jobs 上处理 100 万条 FineWeb 页面仅耗时 19 分钟、成本约 5 美元
- 模型判定约 1/4 的页面是商品页；仅 6% 通过「教育性、非垃圾」简单过滤；102 万页里只有 1 页被评为「outstanding」
- 模型、数据集构建/训练/评估的完整配方均已开源，可在 HF Jobs 上一条命令复现，无需额外配置
所属事件:开源 380M 数据策展模型：百万网页仅花 5 美元(2 条相关)→
「Infra」频道最新
- Ollama 两周上架十余款模型：LFM3-1.7B 主打端侧 Agent，256K 上下文仅 1GB — ollama · 2026-10-30
- Meta 语义 token 化广告推荐系统，转化率提升 0.35% — Meta_Engineers · 2026-10-30
- 并行语言模型 5.7 倍提速：一次前向预测多 token 且质量不掉 — aaron_lou · 2026-10-30
- Oracle 投资者日披露:1GW AI 基础设施合约值 800 亿美元、ROI 约 28% — rohanpaul_ai · 2026-10-30
- Sam Altman：本地推理是对稀缺算力的糟糕分配，云上利用率才是正解 — morqon · 2026-10-30
- 双 RTX 4060 Ti 跑本地 LLM 实测:35B 模型解码达 122.5 token/s — Rooneybuk · 2026-10-30