研究者争论 RL 时代能力遗忘与攻防对称性

围绕模型能力剪除（unlearning）的讨论认为，随强化学习训练兴起，若不想让公开模型具备某项能力，只需在训练中排除相关 RL 环境即可，在 RSI 类能力上似乎尤其有效，但作者也指出其局限。相关讨论还延伸到模型网络攻防能力是否对称：有人称攻防两侧需要「差不多相同」的能力，反驳者则认为挖漏洞、找 CVE 偏防御侧，攻击能力实则更难分离。

2026-11-13 ~ 2026-11-13 · 3 条相关

• RL 时代「遗忘」变简单：不给 RL 环境就删能力 — maksym_andr · 2026-11-13
• RL 让模型 unlearning 变得容易，但网络攻防能力难分离 — xeophon · 2026-11-13
• 攻防能力「差不多」?AI 安全研究者争论模型攻防是否对称 — maksym_andr · 2026-11-13