UT Austin 研究：LLM 靠药名词缀猜药效，对虚构药物也一本正经
jessyjli · x · 2026-10-16
UT Austin 的新研究系统量化了 LLM 在药物知识问答中的「形态学驱动推断」：模型往往通过药名词缀（如 -cillin）来推断药物属性，而不是依赖真实药理知识。
- 研究者构造真实药物（ampicillin）与虚构药物（dimicillin）的对照问答，覆盖 653 种药物进行测试
- 结果显示模型常因词缀相似而给虚构药物「编造」出抗生素属性，且很少明确表示自己是在靠词缀猜测
- 有时还会把共享词缀的药物属性相互混淆
- 论文从行为与机制（可解释性）两个层面分析了这一现象，对比了人类会谨慎存疑而 LLM 自信作答的差异
「研究」频道最新
- 康奈尔提出 Copy-Paste LM：轻量头提升复制能力与长上下文检索 — lil-lab · 2026-10-16
- 研究解析 MoE 专家分工：稀疏路由实现可解释的个性化控制 — copenlu · 2026-10-16
- SCALLOP 论文入选 NeurIPS,少步生成同时输出对数密度 — jmhernandez233 · 2026-10-16
- 投稿暴涨300%,TMLR封禁159名作者并抬高拒稿率至53% — thegautamkamath · 2026-10-16
- TabPFN 席卷 Kaggle:10 月已占 17% 公开 Notebook — ph_singer · 2026-10-16
- MIT 研究:AI 解理论题正确率两年从 2% 升至 35% — mikeflache · 2026-10-16