从零后训练 Yandex AliceAI-80B,作者将开源 GGUF 与训练内核
jjusko20 · reddit · 2026-10-02
Reddit 用户 jjusko20 更新其在 Yandex 开源的 AliceAI-80B-A3B 基座上从零做 instruct 后训练的进展:
- 方法是用自建合成蒸馏数据集做 SFT,训练即将完成;loss 曲线看似异常(词表大小、各 epoch token 数差异所致),但平均 loss 逐 epoch 稳步下降。
- 计划几天内发布多个 GGUF 量化版本,并提供 llama.cpp 补丁供本地运行;无论初版效果如何都会公开 checkpoint,之后继续做强化学习与扩展 SFT。
- 已开源蒸馏引擎 SFTMill,还有为 V100 写的自定义训练内核等补丁可分享。
- 作者同时表示正在找远程或纽约的开发/ML 工程师职位。
「模型」频道最新
- macOS 升级后半夜自动唤醒？元凶是 Apple Intelligence 的夜间任务 — DanielLockyer · 2026-10-02
- EMNLP 论文：显式推理反而拖累重排器，关掉推理更准 — lintool · 2026-10-02
- 用户吐槽 Claude 4.7 太「神经质」：稍有风险就反复挑战你 — repligate · 2026-10-02
- JevBench 将扩充评测：LLM 路由、RAG 检索与内容审核任务 incoming — airesearch12 · 2026-10-02
- Opus 5.5 的写作破绽：爱说「这很重要」，「dependable」出现率是人类 23 倍 — TechCrunch AI · 2026-10-02
- 曝谷歌内部模型 Argon：20 万员工日常实测 — Zergylord · 2026-10-02