10亿参数基因组模型媲美400亿大模型，推理速度提升2330倍
josh_wills · x · 2026-08-06
研究团队推出了 10 亿参数的基因组语言模型 MarinDNA。该模型基于标准 GPT 架构，在孟德尔变异效应预测（VEP）任务上，以极小的参数量实现了与 400 亿参数模型 Evo 2 相媲美的性能。
研究亮点包括：
- 高效推理：训练所需的算力减少了约 1980 倍，变异评分的推理速度提升了约 2330 倍。
- 数据策略：通过平衡数据混合配比，防止较大的编码序列（CDS）数据集主导训练，从而在编码和非编码区域实现了更均衡的预测表现。
- Scaling Law 验证：在 2500 万参数的小模型上调优的超参数，成功预测了最大至 40 亿参数模型的最优学习率，且验证损失遵循清晰的缩放规律。
尽管在零样本（zero-shot）评估中表现优异，但基于比对和有监督的模型在整体上依然保持领先优势。
「研究」频道最新
- AgentGUI 预印本发布：人类理解 Agent 轨迹提速 38% — Michael_D_Moor · 2026-08-07
- SIGNPOST-Bench：评估多模态大模型的图文冲突解决能力 — Sirun Li · 2026-08-07
- PolyLayout：多房间3D布局估计新方法，联合优化提升精度 — anselm · 2026-08-07
- 多模型对抗分析医疗记录：开源 AI 研究组合工程实践 — JWojoMojo · 2026-08-07
- Meta 新架构验证推荐系统缩放定律，Ins 转化率提升 6% — Meta_Engineers · 2026-08-07
- Qwen-3D 模型发布：融合多视角几何 cues 提升空间推理 — udmrzn · 2026-08-07