Nanbeige 4.2 3B 在 llama.cpp 里输出乱码推理内容
LaurentPayot · reddit · 2026-07-28
Nanbeige 4.2 3B 在 llama.cpp 里输出严重乱码
作者反馈，最新的 llama.cpp 上跑 Nanbeige 4.2 3B 时，即便只是输入 “hi”，也会出现损坏的 reasoning 轨迹和胡乱输出。两个不同的 agent 配置都不正常：一个会反复吐出 </think> 和碎片化文本，另一个则像是无限循环。
帖子还给出了完整启动参数，包括 --reasoning on、--reasoning-preserve、65536 上下文和量化 KV cache 设置。本质上这是一个关于模型/推理运行时异常的 bug 报告，作者在询问是否有人遇到同样问题。
「模型」频道最新
- “全都通过了钢琴基准”像一条 AI 梗图帖 — Far-Sock-3170 · 2026-07-28
- SingularityAPI 把多款开源模型封装进统一 OpenAI 兼容接口 — Individual_Team_2344 · 2026-07-28
- 算力成本飙升逼出自研芯片，但 Nvidia 仍很难打 — FinanceYF5 · 2026-07-28
- Reddit 用户称 Claude Pro 两轮提示就撞上会话上限 — Automatic-Ad-6936 · 2026-07-28
- Claude 截图把 Anthropic 的命名混乱变成了梗 — heypearlai · 2026-07-28
- 用户分享链接后，数百段 Claude 对话被搜索引擎公开收录 — connoraxiotes · 2026-07-28