花 100 美元 GPU 费改模型权重,思考 token 省 40%
jarrodwatts · x · 2026-11-04
开发者 jarrodwatts 用 AI 工具 Astra 对 Qwen3.8-27B 的权重进行直接编辑:定位到模型的「结束思考」信号对应权重并将其增强一倍,仅花费约 100 美元 GPU 成本。
结果是在经典的「鹈鹕骑自行车」测试上,平均思考 token 数减少 40%——配图显示从 30,699 tokens 降到 2,352 tokens。这是「直接改权重改变模型行为」的一个低成本实操案例。
「编程与Agent」频道最新
- 用 LLM 海量生成稀有内容，复刻动画式 MMORPG 体验 — rickasaurus · 2026-11-04
- 开发者自写 Chrome 插件给 X 换回经典小鸟图标 — joonasvirtanen · 2026-11-04
- 开发者给个人聊天应用加上「许愿」界面，自动触发 OpenCode 后台 Agent — SubtleGradient · 2026-11-04
- OpenHands+Harbor+SkyRL 组合，让产品公司给自己的 Agent Harness 做后训练 — StasBekman · 2026-11-04
- Google Antigravity 新 UI 曝光:将新增上下文与配额指示器 — clmt · 2026-11-04
- 微软 4B 小模型登顶 OSWorld:Mage-VL-Cowork 得 66 分逼近人类 — microsoft · 2026-11-04