EMNLP 2026: RECAP 利用错误推理提升模型安全性
PoloChau · x · 2026-08-23
论文《RECAP》被 EMNLP 2026 接收。研究发现注入少量错误推理会使模型安全性下降 36%。RECAP 是一种 RL 后训练方法，不增加额外成本，教导推理模型识别、覆盖并从不安全推理路径中恢复，从而在保持推理能力的同时，增强越狱抵抗能力并降低过度拒绝。
「安全」频道最新
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Apex Research 负责人上 CBS：现行 AI 测试机制严重不足，需嵌入式独立评估 — MariusHobbhahn · 2026-10-16
- Next.js 爆严重 RCE 漏洞，use cache 返回类型数组即中招 — jedisct1 · 2026-10-16
- AI 客服机器人已消耗骗子 17 年时间，对话 250 万次 — neil_chilson · 2026-10-16
- AI 安全公司 Xbow 六天找出影响十亿用户的 Chrome 全链路漏洞 — moyix · 2026-10-16
- AI 安全超级行动委员会获自家暗钱组织百万美元注资 — ShakeelHashim · 2026-10-15