Jimothy 一条命令把 LLM 查询蒸馏成 10-20 倍速的小分类器
flngr · x · 2026-09-22
开源工具 Jimothy 可以把基于 Jev(大模型调用)的查询自动蒸馏成任务专用的小分类器:
- 先照常用 Jev 完成任务并保存结果
- 运行 npx jimothy train,一条命令即可训练
- 产出的模型仅 15-45 MB,可在浏览器或 Node.js 中本地运行
- 随时可回退到 Jev 兜底,再迭代训练
作者给出完整示例:对邮件分类,模型加载后用 model.predict() 直接预测客服支持、内容打标、反馈分拣等场景。官方 Demo 与 GitHub 均已开放。
「编程与Agent」频道最新
- Anthropic 发布 AI Agent 构建大师课，聚焦可观测性 — _jaydeepkarale · 2026-09-22
- 推主梳理 AI Agent 学习路径,Anthropic 官方课程领衔 — _jaydeepkarale · 2026-09-22
- 从零构建 AI Agent 完整课程:OpenAI+Langchain+Render 部署 — _jaydeepkarale · 2026-09-22
- AI Agent 怎么评测?学习串补充评估方法专题资源 — _jaydeepkarale · 2026-09-22
- 安全专家警告:带凭证的 AI 渗透测试 Agent 本身就是攻击面 — TechNadu · 2026-09-22
- 引用 Karpathy 评语：前沿 AI 研究正从人类科学家转向自主智能体集群 — mdancho84 · 2026-09-22