实测:pplx-decider 可开箱即用地替代 Fineweb-edu 分类器筛数据
bo_wangbo · x · 2026-10-08
作者指出,很多团队依赖 embedding 模型构建高质量预训练数据——典型案例是 Fineweb-edu:在 Fineweb 基础上用 fineweb-edu-classifier(一个 6 级评分的文本质量分类器)做关键清洗步骤。
作者抽样 1k 条 Fineweb-2 页面,将 Jev/pplx-decider-v1.1 与 Fineweb-edu-classifier 对照 Astra 标注结果进行比较,结论:decider 同样能胜任数据质量判断,且开箱即用,无需专门训练质量分类器。
「研究」频道最新
- 《数据挖掘:实用机器学习工具与技术》经典纪念出版日 — FrnkNlsn · 2026-10-08
- Bittensor 子网 SN107:用 AI 智能体挖矿生产基因组数据 — markjeffrey · 2026-10-08
- CoLM 2026 海报:vibe 测试能否替代不可信的基准? — boknilev · 2026-10-08
- Baseten 研究团队 3 篇论文全部入选 NeurIPS 工作坊 — baseten · 2026-10-08
- 开源异步 agent 框架:工具还在跑时就能继续对话 — wuj · 2026-10-08
- 2700万体素三维搜索:开放词汇嵌入融合谷歌3D Tiles — bilawalsidhu · 2026-10-08