Agent 用久了会不会失控?用「喊我名字」做金丝雀检测
brandon_galang · x · 2026-11-13
一个简单实用的 agent 使用技巧:要求 agent 在每条最终回复开头先称呼你的名字。这相当于一个金丝雀测试——当它开始不再遵守这条指令时,就是本次会话可能已经「跑偏」、上下文或指令遵循退化的信号。作者承认并非完美,但值得一试。
「编程与Agent」频道最新
- Agent 长时自主任务何时该求助?开发者:核心问题远未解决 — andreisavu · 2026-11-13
- 用户把长会话从 Codex 迁到 T3 GUI，称体验大幅提升 — natesiggard · 2026-11-13
- TLAPS 验证 LLM 推理引擎:52 万义务安全证明仅增 0.18% 延迟 — tianyin_xu · 2026-11-13
- 1Password 推出 for Agents：让 AI 智能体安全使用你的账号 — dean_rie · 2026-11-13
- Compound Engineering 3.38 发布：新命令回溯会话自动修 agent 工作流 — kieranklaassen · 2026-11-13
- Merge 用 Claude 接通 Salesforce 与 Slack,15 步超额审查缩到 3-4 步 — shensi · 2026-11-13