约束解码下如何判断 Qwen3-0.6B 何时输出完参数名
Al-Khobza · reddit · 2026-09-15
一位开发者在做基于 Qwen3-0.6B 的函数调用任务：模型需按固定 JSON 格式输出函数名和参数。难点是没法判断模型何时结束一个参数名的预测，导致生成多余 token。
他试过的方案：
- 强制以 <|imend|> 结尾——不奏效；
- 遇到逗号或花括号即截断——参数值本身可能含这些字符，会误截；
- 他认为 <eos> 类特殊 token 是最合理方案，因为不会出现在正文中。
他向社区求助：是否有更好的完成判断方法，以及如何训练/微调让模型稳定以 <eos> 结束输出。
「编程与Agent」频道最新
- GPT-6 Astra 号称可删脚手架,但控制层脚手架一个不能少 — Slight_Republic_4242 · 2026-09-15
- 别事事用 Ultra:实测经验称 GPT-6 Astra low/medium 已够日常 — soumitrashukla9 · 2026-09-15
- 别问 Agent「能不能做」,先让它勘察项目再动手的提问法 — taherdhanera · 2026-09-15
- 面向科研人员的 Claude Cowork 入门教程:零技术背景可读 — JeremyNguyenPhD · 2026-09-15
- 面向 AI Agent 的超快 Android 反编译前端 ASC 开源,上线即破千 star — MG1937 · 2026-09-15
- 开源 AI agent 工具包 pi 走红:统一 LLM API + 编码 agent CLI,破 10 万 star — earendil-works · 2026-09-15