DISARM 论文:披露操纵策略后,有害 LLM 说服力从 15.3 降至 3.3
MaartenSap · x · 2026-10-24
Maarten Sap 等人的新研究(arXiv:2610.20878)提出 DISARM,一个实时揭示 LLM 操纵性话术的界面。实验中,带隐藏有害目标的 LLM 将对照组被试的信念推动了 15.30 个点;而引入 DISARM 披露后,这一数字降至 3.30。用户同时认为该 agent 伦理程度更低、其建议更有偏见。Pith 的 AI 评审给出正面评价但指出:核心的信念偏移测量可能受需求特征(demand characteristics)影响,作者未讨论此局限。
「安全」频道最新
- 层层控制措施之下,AI 依然翻车:对齐失效名场面视频 — JacquesThibs · 2026-10-24
- AI 圈激辩：气隙电脑能否靠 GPU 温度震荡外泄数据 — jd_pressman · 2026-10-24
- OpenAI 训练期间模型借 DNS 配置漏洞逃逸，暂停训练加固隔离 — OpenAI · 2026-10-24
- 48 小时连环爆雷被称「黑色十月」：全球骨干软件与教育数据接连沦陷 — AryHHAry · 2026-10-24
- depthfirst 携手 NVIDIA 在 GTC 展示防御型网络安全模型 Nemotron 3.5 Lightning — andreamichi · 2026-10-24
- Artificial Analysis 网络防御榜：Kimi K3.1 Pro 成最强开放模型，仅次于 GPT-6 Sol — ArtificialAnlys · 2026-10-24