Prompt tuning 被集体遗忘,微调 token 或被严重低估
cephaloform · x · 2026-10-09
作者感慨 2021 年流行的 prompt tuning 如今几乎无人提及,并猜测社区可能严重低估了它的价值:像 prompt tuning 那样利用可训练的微调 token,以及当年吃满显存的 DreamBooth 式配置,或许还有很大挖掘空间。
作者设想:如果现代推理框架能接受 inputids 级别的自定义输入,可能打开新的玩法,进化算法(evolutionary methods)在这类可微调 token 的搜索上或许效果极佳。
「编程与Agent」频道最新
- 给 Opus 加 Minecraft 世界记忆后进度提升 133%,WorldBox 沙盒发布 — Lianhuiq · 2026-10-09
- GPT-6 生成式 UI 走红后,下一代 Agent 缺的是生成式工作流层 — Over_Accountant_2311 · 2026-10-09
- Next Token 播客第 5 期:Personal Agent 大战与 AI 复刻软件影响 — op7418 · 2026-10-09
- mattyp 的 build a bot 支持语音反馈,每条反馈进队列交给 agent 修复 — mattyp · 2026-10-09
- 10 分钟用 Claude 逆向复刻 3D 像素 emoji 动画风格,做成可玩 artifact — justin_hart · 2026-10-09
- Delphi 讲解 Predict Anything 原理:LLM 报赔率+LMSR 市场结算 — benfielding · 2026-10-09