27B 模型加持技能层，本地跑通受监管数据流
Ubunta · x · 2026-08-29
- 实验背景：尝试不升级模型参数量，而是通过给 27B 小模型添加技能层来处理受监管的数据工作流。
- 技术栈：27B 密集模型 (Q6 量化)，2 张消费级 GPU，全本地部署，无微调。
- 实现方式：配置了 5 个技能 MD 文件（队列规范、值集、索引/清洗逻辑、偏差审查、分类账），强制 JSON 输出，且所有代码、计数和数值均通过工具调用获取，而非模型生成。
- 初步结论：技能和上下文层带来了主要性能提升。当前主要问题是加载错误的技能。作者认为添加技能可能足以应对许多任务，值得在升级大模型前尝试。
所属事件:27B 小模型加持技能层，本地跑通受监管医疗工作流(2 条相关)→
「编程与Agent」频道最新
- 吐槽 Claude 爱用 Shell 命令：黑盒操作难懂 — weswinder · 2026-08-29
- Google Cloud 提出构建弹性生产级 Agent 的 5 层架构 — rseroter · 2026-08-29
- Nvidia 发布 Nemotron 3.5 Lightning：加速常驻 Agent 任务 — nvidia · 2026-08-29
- GLM-5.3 开源，Unsloth 助力本地运行与大幅压缩 — danielhanchen · 2026-08-29
- Unify CTO 详谈上市前砍掉 95% Agent 成本的工程 — brandon_galang · 2026-08-29
- Lean4 形式化验证：如何应对 AI 编码 Agent 的正确性危机 — AI Engineer · 2026-08-29