用户教 AI 助手分辨「drop it」是对狗说的,顺手补上了缺失的 eval
manosaie · x · 2026-11-20
一位用户在晨遛时发现,自己的 AI 助手 Dot 会把对狗说的「drop it」误当成对自己的指令。训练它忽略这句话后,又出现新问题:Dot 不仅正确忽略,还会暂停正在执行的任务。
用户只好继续引导,帮它学会「保持安静但继续干活」。他调侃:这场景肯定没人写过 eval,算是给官方补了个测试用例。附图是完整的对话记录,Dot 在被追问后自己意识到混淆了「给用户留发言空间」和「暂停任务」两件事,并承诺下次只安静不中断。
「编程与Agent」频道最新
- 路由省 10 倍成本:Drex Router 建小游戏 $1.26 vs 直用 Opus $13.44 — testingcatalog · 2026-11-20
- NVIDIA Dynamo 技术博客:四大手段破解 RL 训练 rollout 瓶颈 — NVIDIAAI · 2026-11-20
- LangChain 学院答疑:换更强的模型能修好坏掉的 Agent 吗 — LangChain · 2026-11-20
- Agent 把 AI 算力拉回 CPU:四大云厂全部押注 Arm — kimmonismus · 2026-11-20
- 编程 Agent 排行榜实测:最贵档位不是最优,max 档 6 倍花费反而少 2 分 — Arindam_1729 · 2026-11-20
- Drex Router:让小模型为 Agent 每一步挑选最合适的 LLM — omarsar0 · 2026-11-20