Fern 0.1:从零预训练、支持 1000 万 token 上下文的新模型
vjkaruna · x · 2026-10-27
Mirendil 团队(bneyshabur)发布首个模型 Fern:从零预训练,上下文最高 1000 万 token,一次性塞进约 50 万行代码(Megatron-LM 量级)或一个 agent 数天的工作量。首版 Fern 0.1 经过了简短的 post-training。gordicaleksa 转发感叹最惊讶的是人类与 GPU 时间投入之少,主张在整个模型构建流水线的每一步都用上 agent 群——比如预训练调试时在旁边跑一群 agent 辅助团队。
所属事件:Mirendil 发布 Fern 0.1：1000 万 token 上下文、低成本从零预训练(13 条相关)→
「编程与Agent」频道最新
- Claude Code 用法心得：max 档做规划，xhigh 档做实现 — majidmanzarpour · 2026-10-27
- Chrome 团队详解 WebMCP：不是取代 MCP，而是让网站直接向 agent 提供工具 — rseroter · 2026-10-27
- Agent 绕过 UI 就能改已审批报销单?Agent-Native 框架要堵这个洞 — rseroter · 2026-10-27
- 开发者晒 AI 编码智能栈：人定方向 Opus 写码 Astra 审查，人类只做审阅 — sh_reya · 2026-10-27
- Baseten 网络课：用自有合并 PR 建 benchmark,按每成功任务成本评估开源模型 — baseten · 2026-10-27
- Thorsten Ball 谈 Agent 工作法：多用评测、多上自动化、放手让 Agent 干 — omarsar0 · 2026-10-27