Mikhail Parakhin 开源新一代高斯化正则化器
iScienceLuvr · x · 2026-08-06
前微软高管 Mikhail Parakhin 在推文中介绍了新一代 Gaussianization regularizer(高斯化正则化器),并已在 GitHub 开源。
- 技术亮点:该方法速度更快、对高维数据具有鲁棒性,并且是充分必要的,支持与 batch size 呈线性的近似计算。
- 背景关联:该技术是对 @rezabyt 博客中探讨的 SIGReg(LeCun 的 LeJEPA 模型的核心组件)的进一步迭代。
- 开源成果:Parakhin 在其 ml-tidbits 仓库中发布了名为 Wristband Gaussian Loss 的代码。他自述为了解决“确定性高斯潜变量”这一表示学习难题钻研了 7 年,最终通过与 GPT-5.2 Pro 的对抗性压力测试合作取得了突破。
「研究」频道最新
- Goodfire 推出 MAPS:可解释 210 万个基因变异的机制图谱 — mathildepapillo · 2026-08-06
- Flow Map Learning 新理论:解释流模型中 stop-gradient 的有效性 — kwangmoo_yi · 2026-08-06
- 复旦研究警示:AI 模型已具备类似蠕虫病毒的自主复制能力 — willknight · 2026-08-06
- 主流大模型谄媚行为评测:谁爱附和、谁能独立判断? — zero0_one1 · 2026-08-06
- 大模型“学坏”后更易失控,安全护栏泛化不足 — nptacek · 2026-08-06
- GEPA 优化算法提速 4 倍,并行评估反促泛化提升 — dbreunig · 2026-08-06