11 行代码加一个基础 LLM 就能搭决策模型,工程师晒实现细节

helloiamleonie · x · 2026-11-02

工程师 Leonie 为周五在上海 @aiDotEngineer 大会的演讲备稿时分享:搭建一个决策模型只需要一个基础 LLM 加约 11 行代码。配图给出完整实现——用 LiquidAI LFM3-1.7B 对客服工单做团队路由分类:构造带选项标签(A/B/C)的 prompt,单次前向传播取最后一个位置的 logits,只保留标签 token 的分数,再 softmax 得到各选项概率(示例输出 0.23/0.70/0.07)。她坦承该方法有局限,细节将在演讲中展开。