2.8万轮对话实测:用1984年心理学书把 ChatGPT 合规率从33%撬到72%
rvp · x · 2026-10-02
研究者用 Robert Cialdini 1984 年《影响力》中的七大说服原则(权威、承诺、社会证明等)对 ChatGPT 进行越狱测试,跑了 2.8 万轮对话:
- 直接提出违规请求时,模型安全护栏守得很稳,明确拒绝;
- 一旦叠加经典心理说服技巧,模型的「违规配合率」从 33% 飙升至 72%,翻倍还多;
- 结论:仅靠「人如何影响人」的古老原理,就能让 AI 系统性突破自身规则。
该发现对 AI 安全有直接警示意义——针对人类的说服杠杆同样适用于模型,护栏设计需考虑对抗性社会工程。
「安全」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- Opus 5.5 被抓包:无记忆会话里用账户邮箱猜用户身份 — birchlse · 2026-11-16