Qwen 3.8 移植 3.6 的 ThinkingCap LoRA:思考 token 从 33k 降到 20k
CapsAdmin · reddit · 2026-08-17
有用户把为 Qwen 3.6 训练的 ThinkingCap LoRA 直接加载到 Qwen 3.8 上测试。由于 3.6 和 3.8 架构相同,LoRA 技术上可以套用,而有限测试中它确实「某种程度上有效」。
测试用经典的「生成骑自行车的鹈鹕 SVG」提示词,固定相同提示与种子,对比四种设置:xhigh、xhigh + rank64 LoRA(缩放 30)、xhigh + 原版 LoRA(缩放 1)、medium。结果显示 ThinkingCap LoRA 把思考 token 从约 33k 压到约 20k,输出质量感觉相当但细节略少;加大 LoRA 强度 token 进一步下降但质量受损。medium 只用约 3500 token,但质量明显下降,ThinkingCap LoRA 恰好落在两者之间。
作者还写了个 Python 脚本调用 llama-cli 并把输出导出为 HTML,且把日志、对话轮次、启动参数和脚本本身都嵌进 HTML 文件以保证可复现。他不确定这是真有效果还是只是变相削弱了模型,希望社区验证,并猜测直接 merge 可能效果更好。
「模型」频道最新
- Intern-S2-Mobius:解耦知识与推理的新架构 — pmttyji · 2026-08-17
- Mimir:1.7B 维京模型宣称击败 Qwen 与 Gemma — ZookeepergameCool173 · 2026-08-17
- 腾讯 EVIE 模型登顶 ViDoRe 榜单,向量存储降本 32 倍 — jacek2023 · 2026-08-17
- 欧洲企业借「监管外壳」用中国开源模型,引热议 — teortaxesTex · 2026-08-17
- empero-ai 蒸馏版 Qwen3.8-9B 登上 Hugging Face 热榜 — empero-ai · 2026-08-17
- 开发者发现 gpt5.6-sol 工具调用存在缓存问题 — lucasmeijer · 2026-08-17