AI 自动科研方法重演优化算法史:思想动量与模拟退火齐上
burny_tech · x · 2026-10-14
作者观察到处 auto research(自动科研)圈子正在重拾优化领域的经典套路:idea momentum(思想动量)、idea cross-entropy search(思想交叉熵搜索)、idea simulated annealing(思想模拟退火)等。他表示这些方法实测表现相对接近,遗传风格变体略有优势,情形与二十年前非凸优化领域如出一辙。
他进一步提问:我们是否会重演当年配方,将上下文与 LLM 变换联合参数化以参数化方式遍历想法空间——然后自答:这难道不正是 post-training 实际在做的事?
「研究」频道最新
- Qdrant 实测 Perplexity 晚交互嵌入:向量缩小 21 倍,质量保留 99.9% — qdrant_engine · 2026-10-14
- Gemma 携手基因组模型 BOTANIC-1，一下午锁定增产因果突变 — remilouf · 2026-10-14
- ETH 与 EPFL 发布 134 页 Apertus v1.5 报告:全开源多模态推理模型 — LucaAmb · 2026-10-14
- 人大与快手Kling团队发布EventLens:用事件结构强化学习补齐视频时序理解 — Guowen Zhang · 2026-10-14
- JSIR 数据集发布：267 段爵士录音配多任务标注 — umpedronosapato · 2026-10-14
- 研究员：根本不存在「AI 药物」，别再拿假前提辩论 — PatrickKidger · 2026-10-14