Zellige 开源 Tessera-27B:用压缩 CJK 思考,agent 思考 token 减半
ghgi_ · reddit · 2026-10-15
Zellige AI 发布开源(Apache-2.0)编程 agent 模型 Tessera-27B-B-CJK,基于 Qwen3.8-27B 微调,核心思路是让模型用压缩中英混合简写"思考"以省 token,而输出与工具调用保持纯英文和代码。
- 效果:11 个 held-out 编程 agent 任务上,每轮思考 token 为基座的 0.50–0.64x(典型轮次 0.496x);88 轮匹配对比中工具调用有效率 100%、零重复循环;101K–131K 长 prompt 下工具调用全部有效
- 示例:一次任务中仅用 27 个 token 完成基座需 137 token 的步骤
- 训练:在 Tinker 上仅 4 步短 LoRA,全部基于基座自身输出——先改写思考为压缩 CJK 做 SFT 种子,加 token 级防循环修正,再做 agentic SFT 和最短干净 rollout 的拒绝采样
- 局限:竞赛数学和难算法代码上弱于基座、更易循环;仅评测了 bf16 版本
- 权重、LoRA、GGUF、NVFP4 均可在 Hugging Face 下载,附论文与失败经验
「编程与Agent」频道最新
- NVIDIA 发布 cuPotential,将 AI agent 引入芯片工厂车间 — AllThingsApx · 2026-10-16
- Grok Bot 官方模板成金矿:5 分钟定时任务月烧 400 美元算力 — elonmusk · 2026-10-16
- Harness 开源桌面与移动端应用:跨框架跨机器编排 agent 集群 — dee_hw · 2026-10-16
- 开源 Google Analytics MCP Server:自然语言查网站数据 — modelcontextprotocol · 2026-10-16
- 研究者长期实验:什么样的提示词能让 LLM 产出最有意思的点子? — arjunrajlab · 2026-10-16
- 开发者开源 Agent Standup:把 Claude Code 子代理变成可视化「视频会议」 — stickygoose · 2026-10-16