Hugging Face 开源 FineDNA 数据集:让 Qwen3-14B 达到 GPT-Sol 6.1 水平的 DNA 训练配方
_lewtun · x · 2026-11-02
Hugging Face 生物研究团队发布 FineDNA——Carbon-X 模型(让 Qwen3-14B 学会读取 DNA 的模型)的完整训练数据集,全部开源(Apache 2.0),覆盖三个训练阶段:
- Mid-training:23 个 config,514B tokens(55% DNA + 45% 生物学文本与指令),30.2B tokens 被实际读取
- SFT:205,923 段对话、9,984 token 上下文
- RL:98,433 prompts,代码校验的奖励函数,GRPO 一个 epoch
结果:Carbon-X 在五个 DNA 基准上平均 66.7,比 Qwen3-14B 基线 40.0 高 26.7 分(mid+FT 贡献 +19.3,RL 贡献 +7.4);开放模型中仅 GPT-Sol 6.1 得分更高(67.5)。
配图详细展示了数据来源(Eukaryote DNA、原核 mRNA、生物学文本、指令等)、三阶段权重组合与加载命令,宣称「让生物前沿保持开放」。
所属事件:Hugging Face 开源 FineDNA 与 Carbon 模型,Carbon-X DNA 基准超 GPT-6.1(11 条相关)→
「模型」频道最新
- Mistral 员工晒实测:模型自主选基组算苯分子,误差仅 1e-13 — MistralAI · 2026-11-02
- Fable 5.5 发布周将至,大号预告"很快见" — iruletheworldmo · 2026-11-02
- 亚马逊 CEO:未来只需 6-8 个 AI 模型就能满足大多数企业工作 — YvesMulkers · 2026-11-02
- 印度 IndiaAI 扶持的 ZenteiQ 明日发布自研基础模型 — deepakns · 2026-11-02
- Sam Altman:破解 Navier-Stokes 的正是「下一个 GPT」,1 万 agent 跑 4 天 — Hesamation · 2026-11-02
- 特斯拉 FSD 里程即将突破 170 亿英里,每小时新增 180 万英里 — XFreeze · 2026-11-02