Hugging Face 发布开源 DNA 模型 Carbon-X,成本仅前沿模型 1/1800
LoubnaBenAllal1 · x · 2026-10-22
Hugging Face 生物团队发布 Carbon-X,号称最强开源 DNA 模型:在 Qwen3-14B 基础上,用 300B tokens 的 DNA+英文混合数据做 midtraining,并采用混合分词器(英文 BPE + DNA 6-mer),最终在五个 DNA 理解与生成基准上超越所有受测开源语言模型,平均分 66.7,逼近 GPT-6.1 Sol 的 67.5,而成本仅约其 1/1800。
要点:
- 相比基座 Qwen3-14B 提升 27 分;最强项是突变效应预测(BioReason Coding 74.9)与 DNA 序列补全(NextBase 39.4)。
- 作为子 agent 挂给 Kimi K3,可将其 DNA 智能指数从 49.4% 提升到 60.5%(+11.1pp)。
- 训练方法上,midtraining 解锁了纯 RL 无法带来的收益:直接对 Qwen3-14B 做 RL 在 FrontierVEP 上始终无法突破 50% 随机基线,而从 midtraining 检查点出发则持续提升。
- 团队还指出前沿模型常拒绝常规基因组学请求:Opus 5.5 在 next-base 预测上从低推理档的 17.7% 跌至最高推理档的 1.1%,因为拒绝率随推理强度上升,Anthropic、Google 系模型均有此现象——这也是开源科学在 AI for Biology 的价值所在。
所属事件:Hugging Face 开源 14B DNA 语言模型 Carbon-X(12 条相关)→
「研究」频道最新
- IBM LASAGNA 研究：RAG 各技术单独有效，组合后增益大幅缩水 — ibm · 2026-10-22
- 开发者吐槽:机械可解释性快成 AI 圈的占星术了 — dejavucoder · 2026-10-22
- eLife 地标级论文:用 RNN 揭示前额叶皮层规划行为的机制理论 — ShahabBakht · 2026-10-22
- 数学家 Kontorovich 喊话:所有代码都该立刻 Lean 形式化 — ludwigABAP · 2026-10-22
- Cohere 发布 CulturalRiddles：28 个模型跨文化谜题仅得 79.3 分 — Cohere_Labs · 2026-10-22
- 伯克利等预印本：定期遗忘的 Agent 团队比全量记忆最高好 15% — ombre-ai · 2026-10-22