开发者开源 380M 数据策展决策模型:100 万网页筛选仅花 5 美元
vanstriendaniel · x · 2026-10-29
作者训练了一个用于网页级数据策展的小型专业决策模型(基于 UltraBERT 微调,380M 参数),并完整开源了模型、训练数据与全流程配方。
- 成本极低:在 Hugging Face Jobs 上处理 100 万 FineWeb 网页仅需 19 分钟、约 5 美元
- 模型对页面做多维判断:主题、格式、教育性评分、是否 spam;认为约四分之一页面是商品页,6% 通过「有教育价值、非垃圾」过滤,仅百万分之一的页面被评为 outstanding
- 作者呼吁更多公开模型的同时也公开训练数据准备流程,每行数据都标注来源、标注者与许可
所属事件:开源 380M 数据策展模型：百万网页仅花 5 美元(2 条相关)→
「Infra」频道最新
- Ollama 两周上架十余款模型：LFM3-1.7B 主打端侧 Agent，256K 上下文仅 1GB — ollama · 2026-10-30
- Meta 语义 token 化广告推荐系统，转化率提升 0.35% — Meta_Engineers · 2026-10-30
- 并行语言模型 5.7 倍提速：一次前向预测多 token 且质量不掉 — aaron_lou · 2026-10-30
- Oracle 投资者日披露:1GW AI 基础设施合约值 800 亿美元、ROI 约 28% — rohanpaul_ai · 2026-10-30
- Sam Altman：本地推理是对稀缺算力的糟糕分配，云上利用率才是正解 — morqon · 2026-10-30
- 双 RTX 4060 Ti 跑本地 LLM 实测:35B 模型解码达 122.5 token/s — Rooneybuk · 2026-10-30