ICML 论文:对最后 5 层做 LoRA 超拟合可消除 AI 味
grimjim · reddit · 2026-09-06
- Reddit 用户分享 ICML 2026 论文 Beyond Temperature: Hyperfitting as a Late-Stage Geometric Expansion,发现对模型最后约 5 层做 LoRA "hyperfitting" 能产生反 slop(antislop)效果,在几何上扩展输出分布。
- 论文代码已开源(GitHub: YecanLee/Beyond-Temperature),作者建议本地显存充裕的人可以自行实验复现。
「研究」频道最新
- 学者批驳「一年内形式化全部人类数学」计划 — lpachter · 2026-09-06
- DisCo 把 GitHub 仓库蒸馏成技能库,MLE-bench 成绩翻倍至 72.89% — rohanpaul_ai · 2026-09-06
- 南大等提出 Harness 持续学习:基座冻结,智能体靠脚手架进化 — jiqizhixin · 2026-09-06
- 1000 美元训出 HRM-Text,Sapient 递归架构抢在 Astra 之前押注 — rohanpaul_ai · 2026-09-06
- 熵轨迹形状可预测 Qwen3-4B 出错,并能迁移到未见任务 — Happy_Brilliant7827 · 2026-09-06
- Domingos 调侃:等着看 AI 批量生成弦理论论文的速度吧 — pmddomingos · 2026-09-06