开发者用 2B 小模型跑 FunSearch 1.7 天仅命中一次

一位开发者分享了用 2B 小模型运行 FunSearch 任务(Dudeney 1917)的实验进展:经过约 1.677 天、22 步的漫长搜索,才命中一次正解,作者形容过程十分煎熬。他复盘指出,改进方向应是基于 3.8 27B LoRA 蒸馏出更好的起步策略,以提升小模型在该任务上的表现。

2026-11-11 ~ 2026-11-11 · 2 条相关

• 2B 小模型跑 FunSearch 1.7 天仅命中一次，作者直呼煎熬 — cephaloform · 2026-11-11
• 2B 模型跑 FunSearch 1.7 天仅中一次,作者自评蒸馏起步策略 — cephaloform · 2026-11-11