K2 Horizon 用 LoRA 并行解码提速 3 倍，预训练吃下 20T tokens
rohanpaul_ai · x · 2026-09-11
K2 Horizon 系列随附 Uno Diffusion——一个 LoRA 适配器，让原始自回归模型保持冻结，同时学会并行生成 token 块。这意味着无需单独的草稿模型、无需迁移基础模型，IFM 称推理速度提升约 3 倍且模型质量无损。
其他细节：
- 每个模型预训练约 20T tokens，混合网页、代码、数学、科学、多语言与合成数据
- 预训练语料约 17% 含显式推理轨迹，使用了约 10T 合成 tokens
- 后训练阶段生成了 1 亿+ 独立任务
- 全系列共享同一套基础训练、对话、工具调用与部署栈，vLLM、SGLang、Ollama 零日支持，覆盖 NVIDIA、AMD、Cerebras 硬件
所属事件:IFM 开源 K2 Horizon 全系列模型，0.9B 到 375B 训练全程公开(7 条相关)→
「Infra」频道最新
- 用 $TAO 两分钟上手开源模型：Bittensor 侧链 SN53 实测体验 — markjeffrey · 2026-10-28
- AI 代码潮致 CI 需求暴涨，Celesto 一周 CI 分钟数增长 9 倍并分享扩容细节 — aniketmaurya · 2026-10-28
- DeepMind 团队发布 Rust 虚拟机 Capsem，为 AI Agent 提供 hardened 隔离环境 — rakyll · 2026-10-28
- SemiAnalysis:OpenAI 正洽谈约 1GW TPU 租约并寻找场址 — dylan522p · 2026-10-28
- 实测 11 种视频超分方案：本地免费、Topaz 与云端全横评 — lopas99 · 2026-10-28
- 不稳定测算CEO站台解耦算力:要让AI迎来「宽带时刻」 — beffjezos · 2026-10-28