研究：提高警惕无助于识别 AI 文本，假新闻辨别力降 10.2 点
bit3py · reddit · 2026-09-02
作者（研究者本人）分享一篇开放获取预印本（n=504 人、2,438 次判断），让参与者沿两个维度分类新闻片段：来源（人写 vs 机器生成）与真伪（真 vs 假）。
三个反直觉发现
- 感知-准确率脱节：越多疑的参与者识别机器生成文本的准确率并未更高——「多持怀疑态度」式的媒体素养建议在此失效
- 现代 LLM 的输出对参与者来说经常与人类文本无法区分
- 不对称认知疲劳：持续曝光下，假新闻真伪判断下降 10.2 个百分点，而 AI 来源判断基本稳定——两种判断消耗不同资源，只有一种会耗尽
研究借用网络安全 kill chain 框架，把虚假信息视为分阶段生命周期而非单件待分类产物，主张在链条更早处干预，而不是让疲惫的人类在末端识别假消息。作者特别关注第三项发现的含义：如果真伪判断在高负载下退化而来源判断不会，那么迫使用户评估更多内容的平台机制可能正在悄悄让情况变糟。
「安全」频道最新
- 研究员撰文：自动对齐研究不能靠「抓到 AI 搞鬼再停手」 — JacquesThibs · 2026-09-02
- AI 检测器争议：厂商把「AI 分数」污名化为「垃圾文本」引流 — manoelribeiro · 2026-09-02
- 美国政府在 OpenAI 诉讼中表态：AI 训练属合理使用，「稀释」论「存在严重缺陷」 — Formal_Drop526 · 2026-09-02
- Ethan Mollick:AI 能让复杂系统的隐患「同时对齐」,防御哲学须重写 — emollick · 2026-09-02
- a16z 游说者把监管 AI 的州议员称作「bug」,Politico 复盘硅谷败局 — GarrisonLovely · 2026-09-02
- Provcheck v1.4.0 发布 ComfyUI 节点：图内直接嵌入水印与 C2PA 签名 — ckn · 2026-09-02