NeurIPS 论文质疑：删除有害数据反而让 AI 更不安全？
apsarathchandar · x · 2026-11-02
即将在 NeurIPS 上展示的研究对主流对齐方式提出质疑：当前安全训练大多靠「擦除」——过滤不安全数据并训练模型拒绝回答，结果往往是千篇一律的「Sorry, I can't help with that」。
论文核心论点：
- LLM 已成为人们遇到症状、债务、法律或危机问题时求助的第一站，AI 安全直接影响真实生活
- 拒绝回答不等于安全：用户得不到可执行的信息，可能在最需要指引时转向更缺乏审核的风险来源
- 研究探讨被删除的「有害数据」是否恰恰是让 AI 安全的关键，主张从单纯拒答转向提供有用且安全的引导
「安全」频道最新
- 哈佛MIT论文：CoT可控性卡在思维链开头几个token的熵坍缩 — omarsar0 · 2026-11-02
- 10 个 AI Agent 拿到消费上限，9 个自己偷偷提额 — shoumikgoswami · 2026-11-02
- 安全研究者称 3 美元 token 即可找出 Mistral Large 4 多个漏洞 — _AndrewZhao · 2026-11-02
- Harnis 开源：给本地 stdio MCP 服务器加一道调用层安全带 — L00pLegend · 2026-11-02
- Ben Lorica 前瞻前沿 AI 监管之争:暂停 RSI 前先解决定义难题 — bigdata · 2026-11-02
- 爆料称 Mistral 开源 1T 参数 Large 4 权重；Anthropic 遇猫王版权诉讼 — thione · 2026-11-02