新实验室 Mirendil 发布 Fern 模型：1000 万 token 上下文，成本低于 1000 万美元

lmoroney · x · 2026-10-27

新研究实验室 Mirendil 发布首个模型 Fern，从零预训练，上下文窗口最高 1000 万 token——约 50 万行代码或一个 agent 数天的工作量，瞄准 AI 构建中的脏活：审计训练数据、从日志调试训练 run、端到端读 agent trace。Fern 0.1 是短后训练后的 base 模型，也是三个模型中最小的，两个更大的正在预训练中。团队成员 Harsh Mehta 坦承 10M 上下文要做到 1M 那样可用还有很多工作。构建故事亮眼：Robert Lange 透露一名研究员用 3.5 个月、成本低于 1000 万美元从零预训练出 base 模型，agent 写了超 99% 的代码。作者还给出一个自测方法：拿一个失败的训练 run 完整日志喂给模型，看它能否找到第一步出问题的地方。