5 款小模型 RTX 3080 实测：Raon-1 nano 满分跑完 96 次 agent 任务

Kangwook_Lee · x · 2026-11-13

博主 PaulGug 在 RTX 3080（10GB、51K 上下文）上，用统一的 llama.cpp 设置实测 Krafton 新发的 Raon-1 nano 与 Qwen 3.5 2B、Gemma 4 E2B、MiniCPM5 2B、LFM3 1.7B。
完整 agent 任务（PA Core，推理关闭，满分 300）：Raon-1 nano 163 分第一，MiniCPM5 2B 150、LFM3 1.7B 149、Gemma 4 E2B 124、Qwen 3.5 2B 114。
单项技能：MiniCPM5 2B 在工具调用（99%）和长上下文（92%）上领先；Raon 单项稍逊（86%/75%）但指令遵循强（93%）——单项最强者并非整体任务最强者。
Raon-1 nano 96 次 agent 测试零失败，输出约 187 tok/s，Q4 量化仅约 2GB（显存还剩约 7GB），是多步 agent 工作的首选；工具/长上下文场景则选 MiniCPM5 2B。开启推理时多数小模型会耗尽思考预算，Gemma E2B 例外（154 分）。

「编程与Agent」频道最新