Prompt tuning 被集体遗忘,微调 token 或被严重低估

cephaloform · x · 2026-10-09

作者感慨 2021 年流行的 prompt tuning 如今几乎无人提及,并猜测社区可能严重低估了它的价值:像 prompt tuning 那样利用可训练的微调 token,以及当年吃满显存的 DreamBooth 式配置,或许还有很大挖掘空间。

作者设想:如果现代推理框架能接受 inputids 级别的自定义输入,可能打开新的玩法,进化算法(evolutionary methods)在这类可微调 token 的搜索上或许效果极佳。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →