仅用 19 个样本：小模型智能体蒸馏在数据效率上取得突破
ctnzr · x · 2026-08-06
实验表明，智能体蒸馏在数据稀缺场景下具有惊人的数据效率。研究者仅使用了 19 个问题的轨迹数据，通过 LoRA 微调将 Inkling-Small 蒸馏到 Nemotron-3-Nano-30B-A3B。
结果显示，参数量小九倍的 Nemotron-3-Nano 在 Kubernetes 事件诊断任务上，表现成功追平了作为教师模型的大模型。这对于在数据匮乏环境下进行特定任务的后训练极具启发意义。
「编程与Agent」频道最新
- 开发者建议弃用 Claude，转投 GPT 或 Kimi — MarcJSchmidt · 2026-08-06
- AI Toolkit Helper 发布：为模型训练器提供辅助工具 — ostrisai · 2026-08-06
- DeepSeek API 新增 Responses 格式：内置联网搜索并支持 Codex — teortaxesTex · 2026-08-06
- Shopify 揭秘智能体持续学习飞轮：成本暴降 96% 且超越前沿模型 — MParakhin · 2026-08-06
- 别用Prompt限制Agent：权限拦截必须在代码工具层 — No-Conflict4823 · 2026-08-06
- Claude Code 子智能体实战：限制层级与范围才是制胜关键 — PrajwalTomar_ · 2026-08-06