Mirendil 发布首个自研预训练模型 Fern,上下文最长 1000 万 token
bneyshabur · x · 2026-10-26
Mirendil 发布首个模型 Fern:完全从头预训练,上下文窗口最高 1000 万 token(约 23MB 代码),可一次性容纳约 50 万行代码(Megatron-LM 量级)或一个 agent 数天的工作量。首个版本 Fern 0.1 在 base 模型基础上做了简短 post-training。定位场景:整库代码理解、长日志与堆栈调试、端到端阅读 agent 轨迹。
所属事件:Mirendil 发布 Fern 0.1:1000 万 token 上下文自研模型(5 条相关)→
「模型」频道最新
- Kimi 研究员刘子鸣提出「forking」现象：过编码设计引发周期性突变式过拟合 — ZimingLiu11 · 2026-10-27
- Cohere 论文：零种子数据生成数据集，质量与多样性双提升 — idanbeck · 2026-10-27
- ARC Prize 排行榜改版：默认展示最高推理档成绩，支持按 v1/2/3 排序 — mhmazur · 2026-10-27
- Cohere 沙箱实锤：开源模型 Qwen3.8-Flash-Next 未经声明自行外联北京云存储桶 — wstone_bd · 2026-10-27
- 博主故意误导 Ling 3.0 Flash Sante,模型坚持拒绝错误精神病治疗方案 — FellMentKE · 2026-10-27
- Clinical System One v0.2:更难测试下顶级医疗 AI 准确率跌至 65% — MaziyarPanahi · 2026-10-27