论文评估现有AI幻觉引用检测工具:误报漏报问题依然严峻
RexDouglass · x · 2026-07-31
一篇新论文对当前检测AI生成学术文献中“幻觉引用”的工具进行了全面评估。
随着LLM在学术写作中的广泛应用,伪造和不可靠引用已成为日益严重的科学交流问题。研究评估了包括 HalluCiteChecker、HalRef 和 RefChecker 在内的多款现有检测工具。结果显示,尽管这些系统能提供一定的早期预警,但其表现受限于文献提取错误、元数据不完整、数据库覆盖不全等问题。作者呼吁亟需更透明、多源支持的检测系统。
「安全」频道最新
- 千名AI实验室员工联名呼吁:美国需掌握AI发展节奏 — haydenfield · 2026-07-31
- 反对开源AI的恐慌情绪:不应忽视其广泛分散的益处 — typewriters · 2026-07-31
- Wiz发现Azure Cosmos DB严重漏洞,一把钥匙可解锁所有数据库 — rseroter · 2026-07-31
- 英伟达牵头组建开放安全 AI 联盟,推动开源防御 — nvidia · 2026-07-31
- AI 挖洞太猛,Chrome 漏洞修复量超此前 23 版总和 — Ars Technica AI · 2026-07-31
- CNBC发文呼吁:美国需要制定开源AI战略 — Recoil42 · 2026-07-31