KRAFTON 开源 30B-A4B MoE 模型 Raon-1 mini,NVFP4 可跑进单张 RTX 5090
Kangwook_Lee · x · 2026-10-22
KRAFTON 发布 Raon-1 mini preview 的 DFlash2 投机解码草稿模型，主模型是从零训练的 30B-A4B 混合专家(MoE)语言模型，Apache 2.0 开源。
要点：
- 架构：18 层线性注意力 + 7 层全注意力的混合 MoE,采用自研 Raon Delta Attention(对 Kimi Delta Attention 的擦除/写入门解耦)
- 能力：主打韩语对话与 agent 任务，官方称在数学/科学基准、指令跟随与搜索基准上领先对比模型
- 支持 Hermes Agent、Pi、OpenCode 等工具调用工作流，提供 MXFP8 与 NVFP4 量化，NVFP4 版可在单张 32GB 显存的 RTX 5090 上推理
- 作者补充：W4A16、短输入、并发 1 时约 120 tps(无草稿模型)
- 需与主模型配合通过 vLLM 使用，为 preview 版本
所属事件:KRAFTON 开源从零训练 30B-A4B MoE 模型 Raon-1 mini(5 条相关)→
「模型」频道最新
- 实测100次选数：Claude Opus 5.5次次答7,AI趋同远超人类 — jbarbier · 2026-10-23
- 网友称 GPT-6 Astra 前端代码质量超过 Opus 5.5,直呼难以置信 — Angaisb_ · 2026-10-23
- LLM 为写代码牺牲文笔:同一架构被迫兼容英语与编程两套逻辑 — gerardsans · 2026-10-23
- 用户诱导 AI 自认：其参数排除改变社会现状的任务 — lordcycy · 2026-10-23
- Perplexity 推出 Decider for Mac，4B 决策模型可本地免 API key 运行 — perplexity_ai · 2026-10-23
- Bonsai 2 9B 社区挑战一周提速 6 倍，Mac 上达 959 tokens/s — gajesh · 2026-10-23