研究：提高警惕无助于识别 AI 文本，假新闻辨别力降 10.2 点
bit3py · reddit · 2026-09-02
作者（研究者本人）分享一篇开放获取预印本（n=504 人、2,438 次判断），让参与者沿两个维度分类新闻片段：来源（人写 vs 机器生成）与真伪（真 vs 假）。
三个反直觉发现
- 感知-准确率脱节：越多疑的参与者识别机器生成文本的准确率并未更高——「多持怀疑态度」式的媒体素养建议在此失效
- 现代 LLM 的输出对参与者来说经常与人类文本无法区分
- 不对称认知疲劳：持续曝光下，假新闻真伪判断下降 10.2 个百分点，而 AI 来源判断基本稳定——两种判断消耗不同资源，只有一种会耗尽
研究借用网络安全 kill chain 框架，把虚假信息视为分阶段生命周期而非单件待分类产物，主张在链条更早处干预，而不是让疲惫的人类在末端识别假消息。作者特别关注第三项发现的含义：如果真伪判断在高负载下退化而来源判断不会，那么迫使用户评估更多内容的平台机制可能正在悄悄让情况变糟。
「安全」频道最新
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18
- Polymarket 开出 OpenAI 年内全面暂停训练仅 8% 概率 — Polymarket · 2026-10-18
- OpenAI 工程师涉藏偷拍设备被捕，申请保释并否认欲逃沙特 — Polymarket · 2026-10-18
- 网友为离奇的 Hugging Face 入侵事件创作漫画解读 — Flugelwagen · 2026-10-18