安全护栏误伤：模型因关键词触发拦截阻碍Bug修复

xeophon · x · 2026-08-12

开发者 xeophon 分享了一个在开源项目中使用 AI 模型辅助排查 Bug 的案例。他明确知道代码库中存在某个潜在错误，本希望利用模型来确认问题并定位相关代码以便提交报告。

然而，仅仅因为描述中触发了某些敏感关键词，模型的安全护栏机制便被激活，导致请求被拦截，无法正常完成代码审查与定位工作。这反映了当前模型在安全过滤与实际开发效用之间的摩擦。