Domyn Small 10B 推理模型合入 llama.cpp,推理 token 省至同级 1/3
jacek2023 · reddit · 2026-10-22
Domyn S.p.A. 的开源权重模型 Domyn Small v1.0（10B 参数，MIT 协议）已合入 llama.cpp。
- 省 token 推理：在可比准确率下，推理 token 消耗约为 Qwen3.5-9B 的 32%、OLMo-3-7B-Think 的 35%
- 双模推理：可通过 system prompt 或 API 切换 thinking on/off
- 工具调用：<toolcall> XML 标签 + 自动工具注入模板，BFCL V3 单轮 75.9（Non-Live）/68.3（Live）
- 上下文：原生 32k，YaRN 可扩至 128k；GQA（48 查询头/8 KV 头），支持 50+ 语言
- 基于 Italia 10B 继续预训练 503B tokens，定位小显存下的 agentic 部署与微调
「模型」频道最新
- AI 物理基准 CritPt v2 发布：GPT-6 Astra 以 83.1% 登顶 — OfirPress · 2026-10-22
- 铁穹梗图讽中国模型:打下来一批怎么又来一批 — burny_tech · 2026-10-22
- Kapitsa 引擎实测：2021 款 M1 Pro 16GB 跑 Qwen3.5 4B 达 97 tok/s — DotaMate · 2026-10-22
- 实测:DeepSeek V4.1 Flash 解图中隐藏信息屡屡翻场,竞品点拨后能解出 — teortaxesTex · 2026-10-22
- Fable-5.1 能在图片里藏密信,另一个实例无需提示就能解出 — teortaxesTex · 2026-10-22
- 月付 100 美元的 Pro 编码模型反而更差？用户痛陈踩坑 — Girronki · 2026-10-22