研究揭示 LLM 常靠药名后缀“猜”答案而非真懂

allen_ai · x · 2026-08-19

UT Austin 等机构的研究发现，LLM 在回答药物问题时往往缺乏特定的药物知识，而是依赖药物名称的形态学特征（如 -pril, -olol 等后缀）来推断药物类别。在对 Olmo 3 的测试中，51-59% 的测试药物显示出缺乏特定药物知识的迹象，另有 12-18% 的回答明显由后缀驱动。得益于 Olmo 的完全开源特性，研究者能够追踪这一行为至具体的训练数据，揭示了这种“捷径”的来源及其在健康问答中的风险。