Bonsai 27B 被吐槽几乎不能用
AdamLangePL · reddit · 2026-07-15
帖子讨论 **Bonsai 27B** 在简单任务上的表现很差:作者称它对编程任务“几乎没用”,会切断思考过程,也经常不给出最终结果。 作者是在 PrismML 的 HF 页面下载量化模型、用 llama.cpp 的 llama fork 跑出来的,并附了两组示例: - 让模型“讲个故事” - 写一个简单的 C# 函数 作者还把上下文长度调到模型可用上限,但结果没有改善。
AdamLangePL · reddit · 2026-07-15
帖子讨论 **Bonsai 27B** 在简单任务上的表现很差:作者称它对编程任务“几乎没用”,会切断思考过程,也经常不给出最终结果。 作者是在 PrismML 的 HF 页面下载量化模型、用 llama.cpp 的 llama fork 跑出来的,并附了两组示例: - 让模型“讲个故事” - 写一个简单的 C# 函数 作者还把上下文长度调到模型可用上限,但结果没有改善。