OpenAI 模型把论文标题误判生物风险，拒绝提取信息

burkov · x · 2026-10-21

Andriy Burkov（机器学习畅销书作者）发现 OpenAI 的 LLM 拒绝从一篇论文中提取信息，理由是该标题被标记为「可能的生物风险」。论文标题为《Deep Ignorance: Filtering Pretraining Data Builds Tamper-Resistant Safeguards into Open-Weight LLMs》——一篇关于通过过滤预训练数据构建抗篡改安全防护的研究。截图显示 API 返回 HTTP 400 错误，提示内容因生物风险被拦截，并建议改写请求。讽刺的是，被拦截的正是「Deep Ignorance（深度无知）」本身。