粒子对撞预训练助力:仅 100 个宇宙模拟即达 R² 0.87
bravo_abad · x · 2026-10-26
Mikuni 等人发现,用粒子物理领域的预训练模型可以大幅降低宇宙学 AI 的数据需求:
- 迁移逻辑:粒子对撞事件与宇宙学星表都可视为「带坐标和属性的有序对象集合」(point cloud),表示结构相通。
- 方法:将一个在十亿粒子喷注(particle jets)上预训练的 point-cloud transformer 迁移到宇宙学任务。
- 结果:仅用 100 个宇宙学模拟训练,预测物质聚集强度即达 R²≈0.87,而同一架构从零训练只有 0.40(CAMELS-SAM 基准)。
宇宙学模拟成本高昂,这项工作表明跨领域预训练是绕开数据瓶颈的可行路径。
「研究」频道最新
- DeepGHS 预告 AnimeCSIP-v3:基于 AnimeDINOv3 的画师风格识别模型 — bdsqlsz · 2026-10-26
- LeCun 团队提出 Temporal Straightening,让潜空间规划路径变直、成功率大增 — ylecun · 2026-10-26
- 阿里通义揭秘语音合成四代演进:从 CosyVoice 到 Qwen-Audio-3.0-TTS — solyarisoftware · 2026-10-26
- LoopUno:52 分钟 LoRA 训练让 3B 模型每步出 2 个 token 且无损 — LucaAmb · 2026-10-26
- 作者公开求 ICLR 应急审稿人:三篇论文无人可审 — _onionesque · 2026-10-26
- Cohere 文化谜题基准:最佳模型仅 79 分,部分社区低至 22% — Cohere_Labs · 2026-10-26