开发者把 1.5B 模型微调成离线 Linux 命令助手,CPU 上 2 秒出答案
Arch-r007 · reddit · 2026-11-22
Reddit 用户发布了开源项目 lxask:把 Qwen2.5-Coder-1.5B 微调成一个完全离线的 Linux 命令助手,用英文描述需求即可生成 shell 命令。
技术要点:
- Q4KM GGUF 量化,llama.cpp 打包进单个 Rust 二进制,无 Ollama/Python/API key
- 磁盘占用约 1.1 GB,内存约 1 GB,笔记本 CPU 上约 2 秒出答案,装完无需网络
让小模型不胡说的机制:
- 回答前检索相关 tldr 页面和本机 man 手册
- 对答案中每个程序和参数逐一对照 man 页校验,校验失败自动重试,仍无法确认的标注 unverified:
- 遇到模糊请求(如「加个代理」)会反问是 git/apt/docker 而不是瞎猜
附加功能包括解释已有命令的 --explain 模式,以及在 bash/zsh/fish 中按 Ctrl+G 把输入转成命令。代码、权重、数据和评测全部开源。
「编程与Agent」频道最新
- 几小时 vibe coding 出摩托艇,做到 GTA6 级质感还差几个月 — AIandDesign · 2026-11-22
- Agent 一下午搭好,数据源整合却花了一整周:作者的教训与解法 — PushZealousideal7914 · 2026-11-22
- Grok Bot 智能体筹备 5000 人峰会,工期从 18 个月压到 7 个月 — XFreeze · 2026-11-22
- 一条命令给 Claude Code 装上音乐视频生成插件 — AIandDesign · 2026-11-22
- 「知识工厂」引发共鸣:纠正 Agent 后下次是否变好才是评判标准 — hwchase17 · 2026-11-22
- 用户在 t3 Code 调用 Antigravity 后遭封号:任何提示词都返回 403 — jeremyphoward · 2026-11-22