AI 研究者提醒:LLM 处理否定句很弱,说 don't do 反致代码被删
mmitchell_ai · x · 2026-10-23
AI 研究者 Margaret Mitchell（mmitchellai）发推线程讨论用户指令为何常常失效。
- 否定句陷阱：在提示里写“不要做 X”往往不奏效，因为 LLM 对否定的处理比想象中差；她引用实例指出这已多次导致代码被整段删除。
- 用户侧原因：用户指令常“不清晰、含糊”，一是因为人本来就不擅长写指令，二是不长期与计算系统打交道的人不知道如何拆解自己的语言以获得更可靠的输出。
- 实践启示：写提示词时少用否定式约束，改用正向描述期望行为更可靠。
所属事件:HF 安全负责人：自然语言指令不等于对 Agent 的控制权(6 条相关)→
「编程与Agent」频道最新
- 实测:MCP 工具描述一行顶十行,任务采用率 18/20 vs 3/10 — colinmcnamara · 2026-10-23
- 开源 DynaLM：不依赖 GPU 的 CPU 优先 LLM 推理引擎 — Unlikely_Safety_7456 · 2026-10-23
- Warp 把软件工厂配置化：agent、路由、基准全用 Markdown/YAML 管理 — vikvang1 · 2026-10-23
- 开发者用 Codex 远程 root 三星电视，移除争议 eMudhra 根证书 — charliermarsh · 2026-10-23
- Raindrop 推出 Change Reports:PR 合并后自动追踪 Agent 生产表现 — HamelHusain · 2026-10-23
- 开发者呼吁：Agent 会话别再只存本地，集中存储才能自我改进 — vikvang1 · 2026-10-23