一句「请反驳这个」对抗模型谄媚:先质疑再做计划
victor_explore · x · 2026-09-26
开发者分享一条实用 prompt 技巧：在提任何需求前，先在 prompt 里加上「argue against this」（请反驳这一点）。
- 被调教得倾向于附和的模型会给坏计划盖章放行；而 agent 审查自己写的代码，本质上是同一个模型在自我附和。
- 引文中提到诺贝尔奖得主、生物学家 Craig Mello 的建议：处理信息的安全方式是用它来设法证伪你所相信的东西。
「编程与Agent」频道最新
- QuackIR 论文：用 DuckDB 等关系数据库替代向量库做 RAG 检索 — lintool · 2026-09-26
- Pipeline 架构核心问题：把确定性边界画在哪里 — aronchick · 2026-09-26
- 唯一在生产中活下来的形状:LLM 提议,规则裁决 — aronchick · 2026-09-26
- 实测 100 组 Terminal-Bench 2.1:Luna 6 反而全面落后 Luna 5.6 — s1lverkin · 2026-09-26
- Qwen3.8-Omni-Flash 发布：全模态 Agent，百万 token 上下文 — dair_ai · 2026-09-26
- 开源工具 Que:把等你操作的多个 Agent 会话排成一条队列 — Glad_Raspberry_6795 · 2026-09-26