mitsuhiko:llama.cpp 接 Pi,任意本地模型可当廉价分类器
mitsuhiko · x · 2026-09-30
mitsuhiko( Armin Ronacher)分享一个实用技巧:如果你在用 llama.cpp 配合 Pi,可以把其中任何模型当作 Jev(分类模型)的廉价替代版来做分类任务,效果因场景而异(YMMV)。这是把现成工具组合出新能力的低成本玩法,适合想省分类调用的开发者参考。
「编程与Agent」频道最新
- OpenAI DevDay：常驻智能体 Dots、GPT-6.1 Sol 与 500 美元档订阅 — dotey · 2026-09-30
- fal 推出面向所有人的 Agent,一站式完成图像视频音频 3D 创作 — adamho · 2026-09-30
- marimo 教学新玩法:GitHub 文件支持让学生告别 git clone — S_Conradi · 2026-09-30
- marimo 上线 molab 远程存储,一键连 S3/GCS/Google Drive 等 — S_Conradi · 2026-09-30
- 创业者谈三个 agent 方向：传感器、探索者与品味模型 — pzakin · 2026-09-30
- 104 条结构化判断仅花 $0.0018,作者分享 Jev 推理省钱心得 — WolframRvnwlf · 2026-09-30