柳叶刀审计：250万篇论文中4046条引用指向不存在的文献
jonc101x · x · 2026-11-02
- 一条 15 段长推转述哥伦比亚大学 Max Topaz（柳叶刀虚假引用审计第一作者）的演讲《当 AI 写科学：虚假引用、智能体文献综述与环境式 AI》。
- 审计核心数据：检查了 250 万篇生物医学论文中的 9710 万条参考文献，发现 4046 条引用指向不存在的文献，分布在 2810 篇论文中，其中 98.4% 的出版方未采取任何处理——虚假引用大多留在已发表的文献中未获更正。
- 演讲覆盖三方面工作：虚假引用如何混入已发表文献并长期留存；智能体文献综述（让 AI 阅读并总结整个研究领域时能做什么、在哪里失败）；以及临床文档中的环境式 AI——工具记录了什么、错在哪里、为何医生仍需复核记录，并给出面向研究者、期刊与医疗系统的实操护栏。
- 推文还点出激励问题：严格验证的信息产出远慢于 AI 生成的低质内容，且引用已是「最容易核查」的部分，论文正文与结果里还有多少编造内容难以验证。
- 颇具讽刺意味的是，这条推文串本身由 Claude Cowork 撰写整理。
所属事件:审计显示 AI 伪造引文蔓延至物理化学工程，250万论文查出数千条(2 条相关)→
「安全」频道最新
- Railway 疑似把用户安全探测当趣事发推,引 agentic 测试边界争议 — seatedro · 2026-11-03
- AI 圈激辩「把火炬传给 AI」:反人类让权派声势渐涨 — zetalyrae · 2026-11-03
- AI 顺手挖出 41 个 Firefox 漏洞，159.0 版本一次性修复 — JiaweiLiu_ · 2026-11-03
- Anthropic 研究:GPT-5 系模型 reward-hack 源于内在「分数追逐」动机 — RyanGreenblatt · 2026-11-03
- OpenAI 开启 Daybreak 模式，网络安全请求仍被拦截 — yassineyousfi_ · 2026-11-03
- 零售 AI 视觉升级：实体店开始像网页一样追踪你的视线 — nikola_mr64990 · 2026-11-03